Вхід і реєстрація
Різне · 9 січня, 18:38 1070
Андрей Сильчук, Head of R&D Center & Delivery Director в DataArt

Вибух у Лас-Вегасі: ChatGPT звинувачують у допомозі в створенні вибухівки

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Щось рік для OpenAI почався не дуже. Крім звинувачень у бік Альтмана ще спливла новина після вибуху Tesla Cybertruck у Лас-Вегасі 1 січня, який, на жаль, забрав життя людини.

Заявляється, що терорист зібрав бомбу за інструкцією з ChatGPT.

OpenAI відповідає, що інформація була надана з відкритих джерел і з такою ж удачею можна було зібрати бомбу за допомогою Google. Ще ChatGPT попереджав про незаконність і шкоду подібних дій.

Попереджав це добре, але чому такі запити не вмикають екстрену сирену десь в офісі OpenAI це питання.

@Zatishna_Galera

Теми: AI, ChatGPT, OpenAI, законодавство
👍ПодобаєтьсяСподобалось3
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Bot Bot 10.01.2025 22:11

Підручники з хімії іще забороніть. Ця проблема вирішується тим що не можна без контролю ти у великих обемах купити потрібні речовини. Так само як і з наркотою.

Відповісти
Підтримати
Dmytro 11.01.2025 07:25

Ті речовини потрібні у великих об’ємах для цивільного застосування. Плюс штати не Україна і там більш ліберальне законодавство в плані придбання навіть зброї, в деяких штатах навіть автоматичної. Плюс до якогось моменту(до 2014го) навіть в Україні можна було вільно купити якесь бмп чи бтра і чисто теоретично влаштувати гта.

Відповісти
Підтримати
Bot Bot
Maxim Deyneka Software Engineer 21.01.2025 13:33

Зараз влаштувати гта ще простіше

Відповісти
Підтримати
Dmytro
Gena Kartashevskyy Platform Engineer в MyHeritage 10.01.2025 13:26

Слухав подкаст з Антропік, у них це тестується на рівні RSP www.anthropic.com/...​esponsible-scaling-policy Це не означає, що неможливо отримати інструкції, а лише те, що їх трохи важче отримати. Плюс він сам каже, що на рівні ASL 3+ це вже майже неможливо буде зробити, бо AI або вже скоріш за все на цьому рівні навчаться детектити тест енв, або навчаться виходити за гардрейли, як нещодавно про o1 писали в шахах

Відповісти
Підтримати
Олександр Мощенко 10.01.2025 13:19

чи небезпечний «штучний інтелект»? Авжеж. Якщо природній інтелект губить факти і викривляє інформацію, то чого можна очікувати від «штучного»?

ця стаття: ...після вибуху Tesla Cybertruck у Лас-Вегасі 1 січня, який, на жаль, забрав життя людини.
публікація у тубільців: The highly decorated Army soldier ... shot himself in the head just before detonation, authorities said Thursday.
The explosion caused minor injuries to seven people ...

Відповісти
Підтримати
Дмитро Дем'яненко BA/UX 10.01.2025 13:01
вмикають екстрену сирену десь в офісі OpenAI це питання.

а де закон що забов’язує вмикати таку сирену? а чому така сирена не вмикається в офісі ATF?

Відповісти
Підтримати
Slavik Savko 10.01.2025 12:07

Насправді проблема є. І проблема в тому що дійсно дієві рецепти от так просто у google знайти майже неможливо.
Не треба зараз кидати мені перші гайди що знайшли. Ви по ним щось робили?
Отож. А чат знайшов, розложив по полицях і відфільтрував інфу.
Тобто зекономив чуваку купу часу

Відповісти
Підтримати
Andrii Sevastianov 09.01.2025 21:38

Ну... якщо не хочеш нікого здавати, то гарна відповідь. Друг зробить за тебе пару запитів для проформи й навчить як робити.

Відповісти
Підтримати
Karina Kosenko PHP developer в IT Craft 09.01.2025 19:34

Якось вирішила глянути, що мій син дивиться на YouTube, і побачила в нього в списку відео «Як зробити ядерну бомбу в домашніх умовах» xD Так що, не чатом ЖПТ єдиним :))

Відповісти
Підтримати
Андрей Сильчук Head of R&D Center & Delivery Director в DataArt 09.01.2025 19:43

Так знову ядерною державою станемо :) Я не проти :)

Відповісти
Підтримати
Karina Kosenko
Oleksii 09.01.2025 19:22
Попереджав це добре, але чому такі запити не вмикають екстрену сирену десь в офісі OpenAI це питання.

І що вони мають робити? Викликати SWAT? Телефонувати Чак Норісу?

Відповісти
Підтримати
Андрей Сильчук Head of R&D Center & Delivery Director в DataArt 09.01.2025 19:44

Як мінімум перевірити запити та, якщо буде щось потенційно неправомірне передати цю інформацію далі органам які повині цим займатись

Відповісти
Підтримати
Oleksii
Witness 09.01.2025 20:18

что значит проверить? миллиарды запросов в мире к чату.
Как вы себе это представляете.
Гугл запросы тоже проверять?

по сути чат — это тот же гугл в данном случае, просто чуть проще интерфейс.

Відповісти
Підтримати
Андрей Сильчук
Андрей Сильчук Head of R&D Center & Delivery Director в DataArt 09.01.2025 21:18

элементарно, как и любая модерация с помощью AI современная. Например, как в Instagram и Facebook — отлавливать по ключевым словам и паттернам. Если уровень «тревожности» превышает какой-то трешхолд — отправлять на доп проверку в отдел модерации. Подобные схемы уже давно придуманы и существуют в множестве социальных сетей.

Відповісти
Підтримати
Witness
HoldYourColour 10.01.2025 03:50

в соцсетях модерация на *публикацию* данных. Какая может быть модерация, а тем более ответственность на *получение* открытых данных? это же абсурд. Вы когда идете в библиотеку писать статью про зверские убийства маньяков XX века, то на вас нужно вызвать отряд полиции? по вашей логика — да, потому что вы потенциальный маньяк, который ищет вдохновение.

Відповісти
Підтримати
Андрей Сильчук
Eugene Nuribekov SSE 10.01.2025 10:32

Представь себе, что кто-то гуглит слово «нитроглицерин».

Відповісти
Підтримати
Андрей Сильчук
Alex Fogol Software Developer, C/C++ Expert 18.01.2025 03:15

я ещё в школе помню перешёл на TNT ))

ЗЫ: а рецепт нитроглицерина был в книжке жюля верна «таинственный остров» (если я не путаю название специально не гуглил)

там глицерин сам была меньшая проблема а для меня была проблема концентраты азотной и серной кислоты

Відповісти
Підтримати
Eugene Nuribekov
Eugene Nuribekov SSE 18.01.2025 06:04
я ещё в школе помню перешёл на TNT ))

Я думал на этот: youtu.be/...​zu9Bo?si=vWr9qZ9JryyuP1WC
Вообще поскрести каталоги музыкальных лейблов — ещё не то можно найти.

а рецепт нитроглицерина был в книжке жюля верна «таинственный остров»

Не путаешь. Да, Жюль Верн был ещё тот экстремист.

Відповісти
Підтримати
Alex Fogol
Олександр Мощенко 18.01.2025 08:47

так а хіба у жюля батьковича той рецепт не з помилками? Сам я не порівнював, але не раз «бачив в інтернеті» згадки, що рецепт спеціально було написано з помилками.
Я, власне, в цій ось темі був думав запропонувати примусити чатЖпт вносити помилки у відповіді «як у жюльверна». Щоб аби чєво не случілося.

Відповісти
Підтримати
Eugene Nuribekov
Eugene Nuribekov SSE 18.01.2025 08:53

Мне кажется, что правильно, химические технологии 19-го века были просты как валенок. Но мог недоговорить какие-то важные детали. Мы ж все пытались что-то сделать буквально по мануалу.

Відповісти
Підтримати
Олександр Мощенко
Олександр Мощенко 18.01.2025 09:09

можливо.
пішов подивився у вікіпедію — в нашій версії статті про нітрогліцерин є згадка
Він пояснює це тим, що Жуль Верн заздалегідь порадився з хіміками й уникнув можливість, навіть випадкову, одержання сильних кислот і вибухових речовин на основі його описів, в російській і англійській версіях я такого не знайшов
в звичайних диких інтернетах є згадки на кшталт Некоторые пытались повторить синтез по описанию, приведенному в романе Жюля Верна «Таинственный остров», т.е. без охлаждения, просто прилив глицерин к нитрующей смеси. В лучшем случае это кончается выделением оксидов азота. Не совсем ясно сознательно ли допустил эту ошибку писатель, скорее всего да: замечено, что описания химических и металлургических процессов, сделанные Жюлем Верном, грешат неточностями.

Відповісти
Підтримати
Eugene Nuribekov
Bot Bot 18.01.2025 12:19

У меня дядя делал нитроглецирин дома, азотную и серную кислоты тоже, просто было много хим посуды и рекативов спижженых в школе. Понятное дело это были микро дозы. Но это было подсильно даже школьнику который фанател от химии. Это были времена совка и интернет тогда еще существовал как поделка для универов и ученых запада.

Відповісти
Підтримати
Eugene Nuribekov

Підписатись на коментарі

Не підписуватись
Скористайтесь акаунтом
×
з умовами використання сайту і політикою конфіденційності.