Вибух у Лас-Вегасі: ChatGPT звинувачують у допомозі в створенні вибухівки
Щось рік для OpenAI почався не дуже. Крім звинувачень у бік Альтмана ще спливла новина після вибуху Tesla Cybertruck у Лас-Вегасі 1 січня, який, на жаль, забрав життя людини.
Заявляється, що терорист зібрав бомбу за інструкцією з ChatGPT.
OpenAI відповідає, що інформація була надана з відкритих джерел і з такою ж удачею можна було зібрати бомбу за допомогою Google. Ще ChatGPT попереджав про незаконність і шкоду подібних дій.
Попереджав це добре, але чому такі запити не вмикають екстрену сирену десь в офісі OpenAI це питання.
25 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівit just reminded me... )) Sheldon nuclear reactor — Young Sheldon (Full HD)
Підручники з хімії іще забороніть. Ця проблема вирішується тим що не можна без контролю ти у великих обемах купити потрібні речовини. Так само як і з наркотою.
Ті речовини потрібні у великих об’ємах для цивільного застосування. Плюс штати не Україна і там більш ліберальне законодавство в плані придбання навіть зброї, в деяких штатах навіть автоматичної. Плюс до якогось моменту(до 2014го) навіть в Україні можна було вільно купити якесь бмп чи бтра і чисто теоретично влаштувати гта.
Зараз влаштувати гта ще простіше
Слухав подкаст з Антропік, у них це тестується на рівні RSP www.anthropic.com/...esponsible-scaling-policy Це не означає, що неможливо отримати інструкції, а лише те, що їх трохи важче отримати. Плюс він сам каже, що на рівні ASL 3+ це вже майже неможливо буде зробити, бо AI або вже скоріш за все на цьому рівні навчаться детектити тест енв, або навчаться виходити за гардрейли, як нещодавно про o1 писали в шахах
чи небезпечний «штучний інтелект»? Авжеж. Якщо природній інтелект губить факти і викривляє інформацію, то чого можна очікувати від «штучного»?
ця стаття: ...після вибуху Tesla Cybertruck у Лас-Вегасі 1 січня, який, на жаль, забрав життя людини.
публікація у тубільців: The highly decorated Army soldier ... shot himself in the head just before detonation, authorities said Thursday.
The explosion caused minor injuries to seven people ...
а де закон що забов’язує вмикати таку сирену? а чому така сирена не вмикається в офісі ATF?
Насправді проблема є. І проблема в тому що дійсно дієві рецепти от так просто у google знайти майже неможливо.
Не треба зараз кидати мені перші гайди що знайшли. Ви по ним щось робили?
Отож. А чат знайшов, розложив по полицях і відфільтрував інфу.
Тобто зекономив чуваку купу часу
Ну... якщо не хочеш нікого здавати, то гарна відповідь. Друг зробить за тебе пару запитів для проформи й навчить як робити.
Якось вирішила глянути, що мій син дивиться на YouTube, і побачила в нього в списку відео «Як зробити ядерну бомбу в домашніх умовах» xD Так що, не чатом ЖПТ єдиним :))
Так знову ядерною державою станемо :) Я не проти :)
І що вони мають робити? Викликати SWAT? Телефонувати Чак Норісу?
Як мінімум перевірити запити та, якщо буде щось потенційно неправомірне передати цю інформацію далі органам які повині цим займатись
Вам в утопію, описану в 1984.
что значит проверить? миллиарды запросов в мире к чату.
Как вы себе это представляете.
Гугл запросы тоже проверять?
по сути чат — это тот же гугл в данном случае, просто чуть проще интерфейс.
элементарно, как и любая модерация с помощью AI современная. Например, как в Instagram и Facebook — отлавливать по ключевым словам и паттернам. Если уровень «тревожности» превышает какой-то трешхолд — отправлять на доп проверку в отдел модерации. Подобные схемы уже давно придуманы и существуют в множестве социальных сетей.
в соцсетях модерация на *публикацию* данных. Какая может быть модерация, а тем более ответственность на *получение* открытых данных? это же абсурд. Вы когда идете в библиотеку писать статью про зверские убийства маньяков XX века, то на вас нужно вызвать отряд полиции? по вашей логика — да, потому что вы потенциальный маньяк, который ищет вдохновение.
Представь себе, что кто-то гуглит слово «нитроглицерин».
іноді достатньо «скороварка»
я ещё в школе помню перешёл на TNT ))
ЗЫ: а рецепт нитроглицерина был в книжке жюля верна «таинственный остров» (если я не путаю название специально не гуглил)
там глицерин сам была меньшая проблема а для меня была проблема концентраты азотной и серной кислоты
Я думал на этот: youtu.be/...zu9Bo?si=vWr9qZ9JryyuP1WC
Вообще поскрести каталоги музыкальных лейблов — ещё не то можно найти.
Не путаешь. Да, Жюль Верн был ещё тот экстремист.
так а хіба у жюля батьковича той рецепт не з помилками? Сам я не порівнював, але не раз «бачив в інтернеті» згадки, що рецепт спеціально було написано з помилками.
Я, власне, в цій ось темі був думав запропонувати примусити чатЖпт вносити помилки у відповіді «як у жюльверна». Щоб аби чєво не случілося.
Мне кажется, что правильно, химические технологии19-го века были просты как валенок. Но мог недоговорить какие-то важные детали. Мы ж все пытались что-то сделать буквально по мануалу.
можливо.
пішов подивився у вікіпедію — в нашій версії статті про нітрогліцерин є згадка
Він пояснює це тим, що Жуль Верн заздалегідь порадився з хіміками й уникнув можливість, навіть випадкову, одержання сильних кислот і вибухових речовин на основі його описів, в російській і англійській версіях я такого не знайшов
в звичайних диких інтернетах є згадки на кшталт Некоторые пытались повторить синтез по описанию, приведенному в романе Жюля Верна «Таинственный остров», т.е. без охлаждения, просто прилив глицерин к нитрующей смеси. В лучшем случае это кончается выделением оксидов азота. Не совсем ясно сознательно ли допустил эту ошибку писатель, скорее всего да: замечено, что описания химических и металлургических процессов, сделанные Жюлем Верном, грешат неточностями.
У меня дядя делал нитроглецирин дома, азотную и серную кислоты тоже, просто было много хим посуды и рекативов спижженых в школе. Понятное дело это были микро дозы. Но это было подсильно даже школьнику который фанател от химии. Это были времена совка и интернет тогда еще существовал как поделка для универов и ученых запада.