Вхід і реєстрація
Різне · 9 січня, 18:38 918
Андрей Сильчук, Head of R&D Center & Delivery Director в DataArt

Вибух у Лас-Вегасі: ChatGPT звинувачують у допомозі в створенні вибухівки

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Щось рік для OpenAI почався не дуже. Крім звинувачень у бік Альтмана ще спливла новина після вибуху Tesla Cybertruck у Лас-Вегасі 1 січня, який, на жаль, забрав життя людини.

Заявляється, що терорист зібрав бомбу за інструкцією з ChatGPT.

OpenAI відповідає, що інформація була надана з відкритих джерел і з такою ж удачею можна було зібрати бомбу за допомогою Google. Ще ChatGPT попереджав про незаконність і шкоду подібних дій.

Попереджав це добре, але чому такі запити не вмикають екстрену сирену десь в офісі OpenAI це питання.

@Zatishna_Galera

Теми: AI, ChatGPT, OpenAI, законодавство
👍ПодобаєтьсяСподобалось3
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Bot Bot 10.01.2025 22:11

Підручники з хімії іще забороніть. Ця проблема вирішується тим що не можна без контролю ти у великих обемах купити потрібні речовини. Так само як і з наркотою.

Відповісти
Підтримати
Dmytro 11.01.2025 07:25

Ті речовини потрібні у великих об’ємах для цивільного застосування. Плюс штати не Україна і там більш ліберальне законодавство в плані придбання навіть зброї, в деяких штатах навіть автоматичної. Плюс до якогось моменту(до 2014го) навіть в Україні можна було вільно купити якесь бмп чи бтра і чисто теоретично влаштувати гта.

Відповісти
Підтримати
Bot Bot
Gena Kartashevskyy Platform Engineer в MyHeritage 10.01.2025 13:26

Слухав подкаст з Антропік, у них це тестується на рівні RSP www.anthropic.com/...​esponsible-scaling-policy Це не означає, що неможливо отримати інструкції, а лише те, що їх трохи важче отримати. Плюс він сам каже, що на рівні ASL 3+ це вже майже неможливо буде зробити, бо AI або вже скоріш за все на цьому рівні навчаться детектити тест енв, або навчаться виходити за гардрейли, як нещодавно про o1 писали в шахах

Відповісти
Підтримати
Олександр Мощенко 10.01.2025 13:19

чи небезпечний «штучний інтелект»? Авжеж. Якщо природній інтелект губить факти і викривляє інформацію, то чого можна очікувати від «штучного»?

ця стаття: ...після вибуху Tesla Cybertruck у Лас-Вегасі 1 січня, який, на жаль, забрав життя людини.
публікація у тубільців: The highly decorated Army soldier ... shot himself in the head just before detonation, authorities said Thursday.
The explosion caused minor injuries to seven people ...

Відповісти
Підтримати
Дмитро Дем'яненко BA/UX 10.01.2025 13:01
вмикають екстрену сирену десь в офісі OpenAI це питання.

а де закон що забов’язує вмикати таку сирену? а чому така сирена не вмикається в офісі ATF?

Відповісти
Підтримати
Slavik Savko 10.01.2025 12:07

Насправді проблема є. І проблема в тому що дійсно дієві рецепти от так просто у google знайти майже неможливо.
Не треба зараз кидати мені перші гайди що знайшли. Ви по ним щось робили?
Отож. А чат знайшов, розложив по полицях і відфільтрував інфу.
Тобто зекономив чуваку купу часу

Відповісти
Підтримати
Andrii Sevastianov 09.01.2025 21:38

Ну... якщо не хочеш нікого здавати, то гарна відповідь. Друг зробить за тебе пару запитів для проформи й навчить як робити.

Відповісти
Підтримати
Karina Kosenko PHP developer в IT Craft 09.01.2025 19:34

Якось вирішила глянути, що мій син дивиться на YouTube, і побачила в нього в списку відео «Як зробити ядерну бомбу в домашніх умовах» xD Так що, не чатом ЖПТ єдиним :))

Відповісти
Підтримати
Андрей Сильчук Head of R&D Center & Delivery Director в DataArt 09.01.2025 19:43

Так знову ядерною державою станемо :) Я не проти :)

Відповісти
Підтримати
Karina Kosenko
Oleksii 09.01.2025 19:22
Попереджав це добре, але чому такі запити не вмикають екстрену сирену десь в офісі OpenAI це питання.

І що вони мають робити? Викликати SWAT? Телефонувати Чак Норісу?

Відповісти
Підтримати
Андрей Сильчук Head of R&D Center & Delivery Director в DataArt 09.01.2025 19:44

Як мінімум перевірити запити та, якщо буде щось потенційно неправомірне передати цю інформацію далі органам які повині цим займатись

Відповісти
Підтримати
Oleksii
Witness 09.01.2025 20:18

что значит проверить? миллиарды запросов в мире к чату.
Как вы себе это представляете.
Гугл запросы тоже проверять?

по сути чат — это тот же гугл в данном случае, просто чуть проще интерфейс.

Відповісти
Підтримати
Андрей Сильчук
Андрей Сильчук Head of R&D Center & Delivery Director в DataArt 09.01.2025 21:18

элементарно, как и любая модерация с помощью AI современная. Например, как в Instagram и Facebook — отлавливать по ключевым словам и паттернам. Если уровень «тревожности» превышает какой-то трешхолд — отправлять на доп проверку в отдел модерации. Подобные схемы уже давно придуманы и существуют в множестве социальных сетей.

Відповісти
Підтримати
Witness
HoldYourColour 10.01.2025 03:50

в соцсетях модерация на *публикацию* данных. Какая может быть модерация, а тем более ответственность на *получение* открытых данных? это же абсурд. Вы когда идете в библиотеку писать статью про зверские убийства маньяков XX века, то на вас нужно вызвать отряд полиции? по вашей логика — да, потому что вы потенциальный маньяк, который ищет вдохновение.

Відповісти
Підтримати
Андрей Сильчук
Eugene Nuribekov SSE 10.01.2025 10:32

Представь себе, что кто-то гуглит слово «нитроглицерин».

Відповісти
Підтримати
Андрей Сильчук

Підписатись на коментарі

Не підписуватись
Скористайтесь акаунтом
×
з умовами використання сайту і політикою конфіденційності.