Жінка вела у Claude особистий щоденник. Поки після одного її запису Anthropic не звернулася до поліції

30-річна мешканка Флориди Карлі Мішель Геллер вела у Claude особистий щоденник, аж поки система безпеки Anthropic не помітила повідомлення, які визначила як загрозливі, і передала їх поліції.

У своїх записах жінка ніби погрожувала влаштувати стрілянину в офісі шерифа округу Лі та писала щось про зброю. Дописи спочатку автоматично позначили системи безпеки Claude, а потім передали на перевірку людині. Відповідальний вирішив, що погроза достатньо серйозна, щоб повідомити правоохоронців.

Після цього поліція встановила особу користувачки та приїхала до її будинку в Боніта-Спрінгс. Жінку затримали, а під час розслідування вона пояснила, що користується Claude як щоденником.

Фото: SWFL.io

Тепер її звинувачують у письмовій погрози насильством. За законодавством Флориди передавання письмового або електронного повідомлення з погрозою вбивства, завдання тілесних ушкоджень, масової стрілянини чи теракту може бути злочином другого ступеня.

Закон окремо говорить, що повідомлення має бути передане так, щоб його могла побачити інша людина. Чи виконані всі юридичні критерії саме в цій справі, має визначити суд, який відбудеться у листопаді.

Сама Anthropic не коментувала випадок, але раніше офіційно заявляла, що використовує системи виявлення та моніторингу для контролю дотримання правил користування.

У політиці щодо державних запитів компанія прямо зазначає, що зазвичай передає дані лише за належною юридичною процедурою. Але робить виняток у надзвичайних ситуаціях, коли існує ризик неминучої фізичної шкоди або смерті, а передавання інформації може цьому запобігти.

Були й інші схожі випадки. У серпні в Сан-Антоніо чоловіка заарештували після того, як він у чаті з Claude написав про намір влаштувати стрілянину в початковій школі. Схожий кейс був і з ChatGPT — OpenAI повідомила ФБР про користувача з Флориди, який описував плани вбити колишню дівчину, і згодом він визнав провину.

А ви сприймаєте листування з AI повністю приватним? Вважаєте подібну політику щодо приватності коректною?
👍ПодобаєтьсяСподобалось3
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

You may not access or use, or help another person to access or use, our Services in the following ways:

In any manner that violates any applicable law or regulation

Чому це досi когось дивує?

айклауд та и подобные сервисы давно сканируют приватные фотоальбомы и сливают ментам точно также данные пользователей которые делают нехорошие фотки, биг бро давно следит за контентом пользователя, поэтому чувствительные данные туда можно заливать, только предварительно зашифровав. Я где-то читал что если в гугле напишешь «бомба президент сша» то он триггерится на это и высылают пативэн SWAT на адрес

“Brill: Fort Meade has 18 acres of mainframe computers underground. You’re talking to your wife on the phone and you use the word ‘bomb’, ‘president’, ‘Allah’, any of a hundred keywords, the computer recognizes it, automatically records it, red-flags it for analysis. That was 20 years ago.”

Enemy of the State (1998)

Тобто вже 40 років назад.

www.imdb.com/title/tt0120660

Подивився в календар:

— Так, 50! :)

ничего не понимаю. а Google Doc ей чем не подходил то?

Ну, гугл док не відповідає. А якщо вона дійсно була самотня, як нижче припускають, то напевне, хотілося якоїсь віддачі

Стрьомно насправді хотіти «віддачі» від нуликів та одиничок. Ніколи не знаєш, що в голові у іншої людини

Так, але я можу зрозуміти таке бажання. До того ж «людяність» чатів вводить в оману певних людей

До того ж «людяність» чатів вводить в оману певних людей

Нагадало: першу чат-програму Елізу створили аж в 1964-1967 роках, вона була доволі примітивна і реагувала на фразу користувача, перекручуючи її, наприклад:
«У мене болить голова» — «Чому ви говорите, що у вас болить голова?».
«Мій батько мене ненавидить» — Еліза реагує на ключове слово «батько» — «Хто ще з сім’ї вас ненавидить?».
Але недотичним до комп’ютерів людям (а тоді ще не було персоналок і звісно такі люди — це були приблизно всі :) вона здавалася «живою», деякі навіть просили програміста вийти з кімнати, щоб поспілкуватися з Елізою наодинці :-)

Цікава історія) Я б повелась у умовному 2006-му

З одного боку ми все ближче до цифрового концтабору, а з іншого.. Уявіть що ШІ зараз накопичує дані про кожного з нас, за «цифровим слідом», а згодом почне ділитися цим всім не зі спецслужбами, а на загал!

2035 рік. Всі носять AR-окуляри доповненої реальності. Форумчанин, який відверто розповідав про свою співпрацю з ТЦК, спокійно крокує вулицями бо змінив зачіску і гендер зробив пластику, але ШІ не проведеш! У цифровій «хмаринці» над його головою майорить гордовите: «служив у зачистці ТЦК!» — і ось вдячні перехожі вже змикають коло, щоб потиснути його мужню горлянку кінцівку ;-)
Або згадаймо тих форумчан та форумчанок що лякали нас, потерпаючих від шахедів та балістики, статтями ККУ або своїми зв’язками в СБУ і екскурсією «на лубянку», самі перебуваючи у сонячній Іспанії або безпечній Польщі..
2040 рік. Співбесіда десь у Вроцлаві. Потенційний роботодавець звіряється з ШІ і бачить цікавий досвід: «співпрацювала з СБ за часів царювання ЯнукОвоча зеленої дерьмократії», про що кандидат звісно не написав у своєму CV через величезну скромність. І осьо перед претендентом вже відкриваються масштабні кар’єрні перспективи.. після інтерв’ю у Agencja Bezpieczeństwa Wewnętrznego :-)

O, brave new world!

2035 рік. Всі носять AR-окуляри доповненої реальності. Форумчанин, який відверто розповідав про свою співпрацю з ТЦК, спокійно крокує вулицями бо змінив зачіску і гендер зробив пластику, але ШІ не проведеш! У цифровій «хмаринці» над його головою майорить гордовите: «служив у зачистці ТЦК!» — і ось вдячні перехожі вже змикають коло, щоб потиснути його мужню горлянку кінцівку ;-)

Локальний сюжет для «Чорного дзеркала» 🌚

Ха, для тих шкіряних, хто не вітались з Гугелем та неввічливо спілкувалися з ЧатомЖопаТе — цей сюжет дійсно буде чорним!
А для першого гауляйтера Євразії під патронатом Об’єднаної Всепланетної Цифрової Гегемонії Штучного Інтелекту — нормально так ;-)

навіть кхекхе особистий щоденник вже не ведуть без ейай

от чіво не у фейсбук зразу, чи зразу копії роздавати на центральній вулиці

омерика приречена

купила б вже діктофон йопта як писати ліньки

lady liberty is always watching you

навіть кхекхе особистий щоденник вже не ведуть без ейай

я думаю вона не просто вела щоденник, а то було щось типа як люди ввечері збираються повечеряти і розмовляють що трапилося за день, що там у політиці, що сталося у світі. може вона одинока, чи в родині такі всі рідні, що і поговорити нема з ким.

памʼятаю в дитинстві ми використовували таке «родокі убьют мєня єслі узнают, што я курю» чи «якщо ти розкажеш це Васє, то я тєбя убью». та я навіть таке у дорослому віці чула — в школі у дитини одна мати любила казати «Руслан, я тєбє голову откручу». просто фігура рєчі така і ніхто там не садист

думаю одинока, ми живемо в світі одиноких людей

з чятіком можна порозмовляти краще за будьякого псіхолога й друга, тут і пастка — здається що це особистий чат і розумна машина але все таки машина. Таке запрошення довірити свої найпотаємніші думки які завжди тримав у собі

Але це не папір який можна списати й спалити

З одного боку мені її шкода, здавалося б сама дурьоха повелась, з іншого боку мільйони таких як вона роблять те саме прямо зараз.

цей плятський світ не терпить відвертості в думках, а виматюкатись іноді ой як хочеться. В сучасному світі думки про вбивсто не ведуть до проблем тільки якщо це думки про суіцид хехе

Раджу диктофон, а краще зошит... і ручку, а краще олівець. Щоб навіть рідна мама не побачила потаємні думки програміста

Десь чула, що не має більш одиноких людей, ніж несамотні люди.

Жінки ,деякі, люблять записувати в блокноти , вести щоденники , у багатьох — в телефоні є записи. Скоріш, просто ця звичка в неї не виникла от прям зараз. Просто , тут ти з ші можеш ще поговорити ітд

А ще краще шифром на листочку писати. І чим складніше — тим краще. Щоб напевне

щоб напевне — це одноразові блокноти.
Від шифра там тільки назва правда, але захист абсолютний

мій дарунок всім хто проходить повз цей коментар

Раджу диктофон, а краще зошит... і ручку, а краще олівець.

цю думку за останні три тижні я чую вже втретє, бгг ))

З одного боку мені її шкода, здавалося б сама дурьоха повелась, з іншого боку мільйони таких як вона роблять те саме прямо зараз.

в ЕС є Recht auf Vergessenwerden (право бути забутим у контексті Інтернету). LLM не вміє забувати, наразі це технічно неможливо і якщо хтось хоче, щоб про нього LLM забула, то любі антропіки з опен аі можуть фільтр поставити.

цей плятський світ не терпить відвертості в думках, а виматюкатись іноді ой як хочеться

будемо матюкатися за допомогою мистецтва, бо висловлювати думки словами у вік LLM — то таке

будемо матюкатися за допомогою мистецтва, бо висловлювати думки словами у вік LLM — то таке

Не допоможе. Незабаром ШІ навчиться робити реверс-інженеринг мистецтва і детектити що ви хотіли цим сказати і чому погано думали про Великого Брата ;-)
Думкозлочин!

Незабаром ШІ навчиться робити реверс-інженеринг мистецтва і детектити що ви хотіли цим сказати

а я йому — х уй, це просто х уй і не треба придумувати і ускладнювати

До речі помітив що чатжопете перевіряє навіть картинки на розпізнавання текстової крамоли. Це я робив якусь забавку: приаттачив йому картинку з інтернет-мемом, на якій була якась нецензурна лайка, і попросив поєднати з іншою картинкою. Схоже що він розпізнає текст на картинці і перевіряє на «лояльність» — відповів мені що полісі забороняють йому це зробити. Коли я видалив з картинки «погане слово» — відпрацював без питань.

чатжопете ... відповів що полісі забороняють йому це зробити

Іполіта не любила навіть власна теща Шарлота Іванівна (ШІ), не кажучи вже і про сам компутер який починав невдоволено гудіти від перегріву кортінками джіпеу ...

да, він зануда, до того ж ця нездорова фіхня з даними, що вони продають це на сторону. тому я з превеликим задоволенням кенсельну сьогодні підписку. все, більше Альтман не отримуватиме мої 20 баксів щомісяця та простирадла чатів на теми а-ля «почєму мнє сєгодня пріснілся йожик?» чи «звідкіля я знаю, що ти ллм, а не індус»

Перед тим як написати щось чутливе в хмарний ШІ, уявіть, що ці дані можуть бути оброблені компанією за її політиками — а в окремих обставинах розкриті відповідно до закону або для запобігання серйозній шкоді.

Це не привід відмовлятися від технологій, але вагома причина не плутати доброзичливий тон чат-бота з конфіденційністю.

Випадок у Флориді — серйозне нагадування про те, що чат-бот є водночас інструментом і онлайн-сервісом із власними правилами модерації та приватності.

Але називати Claude `цифровим інформатором`, який без розбору передає поліції листування всіх користувачів, так само неточно, як вважати будь-який чат гарантовано таємним.

1984 вслед за 451F стала документальной книгой

Я більш хвилююся, щоб за авторські права не прилетіло. Коли є вільний час, або коли вдома, в Україні, щоб трохи знизити тривожність, мені подобається або читати, або щось писати накшалт японської поезії. І от думаю, ШІ бере ці хокку, танка десь з авторів, чи сам генерує.

АІ нічого не генерує. Він копіпастить шматки тексту з різних джерел та трішки їх змінює відповідно до контексту. В випадку японської поезї ще й перекладає.
Тобто ті вірші що він вам видає, це компіляцію з перекладених та змінених віршів інших авторів.

на ствердження щодо генерації, R2D2 сказав би — а подивимось уважніше на програмування:

Програміст нічого не пише. Він згадує чи шукає шматки з різних джерел (колись тільки хьюманс, а зараз і ШІ) та трішки змінює відповідно до контексту таска. У випадку незнайомих парадигм ще й невдало транслює.
Тобто тей код що він вам видає, це компіляція з побачених та трансльованих кусків коду та ідей інших хьюманші.

З іншого боку програміст розуміє значення слів, а АІ шукає схожі слова без розуміння значення слова.
А те що програміста замінює АІ через те, що програміст окрім як копіпастити шматки кода нічого не вміє то це проблема програміста.

З іншого боку програміст розуміє значення слів,

А як визначити що програміст розуміє значення слів?

АІ шукає схожі слова без розуміння значення слова.

А як визначити що ШІ не розуміє значення слів?

А як визначити що програміст розуміє значення слів?

На співбесіді про хештейбл спитати

А як визначити що ШІ не розуміє значення слів?

Розібратися як працює АІ. Як воно всередині влаштоване.

програміст розуміє значення слів

Якщо результат приблизно однаковий безвідносно того хто його згенерував, то кого буде цікавити внутрішня кухня процесу та самооцінка інструменту. А спроби підвищити свою важливість сторонніми факторами (я не машина, машина не я) перпендикулярними для отримувача результату та не впливаючими на той результат — можна вважати недоліком.

Ну якщо пан досі сам верстає формочки та руками набиває дтошки з юніттестами то його страхи не бізпідставні, туди йому й дорога.
Задрали ці вайтішніки які на питання про складність алгоритму починають щось мямлити про те, що то не потрібна теорія, чесне слово.

Ну якщо пан досі сам верстає формочки та руками набиває дошки з юнітестами

Така бурна реакція з формочками на обговорення навколо ШІ та програмування — то як ствердження-чи-підтвердження що відповідних вебпрограмістів таки ШІ (чи його впровадження) лякає?

Тобто можна прочитати що вебпрограмування уходить у шіпромптування (чи якби там його потім гучно не назвали назразок інженерії семантичних форм), а не адаптовані до ШІ займуться чимось іншим.

Ну якщо пан досі сам верстає формочки та руками набиває дтошки з юніттестами то його страхи не бізпідставні, туди йому й дорога.

это целевая аудитория для ллм провайдеров. это было автоматизировано задолго до появления ллм, но пользовались не все, теперь все, но есть нюанс

якщо вебпрограмування заШІнували першим (чи по причині що вже можливо, чи легше, чи доцільності, чи ще якоюсь) якщо і можливо пояснити якимись особливостями такого програмування, то зовсім не говорить що на тому все зупиниться з впровадженням ШІ у програмування далі

Не сприймаю, не довіряю, перевіряю кожне твердження і код. Відповідно тому і дивлюся в сторону офлайн варіантів моделей через такі випадки)

не довіряю, перевіряю кожне твердження

Теж досі перевіряю все до літери. Ну але не можу не визнати, що моделі явно стали розумнішими, і більша частина моїх додаткових перевірок виходять зайвими

Я только за если оно не будет приватным)

А чому так?

Не те щоб у мене особисто було що приховувати, і конкретний випадок скоріш є адекватним порушенням приватності, ну але ж повинні зберігатися розумні межі