«Ой, я все видалив»: як Claude Cowork наводив лад в ноутбуці і ледь не зруйнував шлюб інвестора
Ніколи такого не було і от знову :)
Венчурний капіталіст Нік Давидов поділився у себе в Х історією про те, що вирішив доручити ШІ-агенту Claude Cowork організувати файли на робочому столі своєї дружини. Звучить, як в старому доброму анекдоті, правда? :)
Хронологія катастрофи
Агент Claude Cowork, який має здатність виконувати дії безпосередньо в системі комп’ютера (а не просто спілкуватися в чаті), почав свою роботу. У процесі ШІ попросив дозволу видалити тимчасові файли Microsoft Office. Давидов, навіть не підозрюючи нічого, надав цей дозвіл і, в результаті чого, агент спробував перейменувати папку з сімейними фото та випадково видалив її.
Що Нік отримав натомість? Замість сміття зникла папка, що містила весь фотоархів дружини за останні 15 років: фотографії дітей, їхні малюнки, знімки з весіль друзів та подорожей. ШІ в свій захист прокоментував свої дії лаконічним «Oops».
Базовими способами відновити файли не вдалося. Оскільки агент працював через термінал, файли не потрапили до кошика, iCloud одразу синхронізував зміни з хмарою, а резервних копій просто не було.
Не уявляю навіть, що б сталося з Ніком ввечері, коли б дружина прийшла з роботи, якби не дзвінок в службу підтримки Apple. Фахівці вказали на специфічну, глибоко сховану функцію iCloud Drive, яка дозволяє відновлювати файли, видалені з хмари протягом останніх 30 днів. Саме це дозволило повернути архів.
«Я зараз дивлюся, як завантажуються десятки тисяч файлів. У мене ледь серце не зупинилося», — пізніше написав Давидов.
Добре, що в цієї історії щасливий кінець. Але ж так буває далеко не завжди. З часом дедалі більше таких нових історій з’являється в інтернеті через те, що люди занадто сильно почали довіряти агентам. І не думаю, що їх кількість найближчим часом зменшиться.
А у вас траплялися факапи з ШІ? Що найгірше він «накоїв» у вашій роботі?
35 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівдружини.....
дружини !?!?
а цей Нік неймовірно сміливий і ризиковий чувак !!!!
та ще й везунчик — цього разу все закінчилось на його користь :)
это мне Gemini Pro диаграмму по работе рисовал...
я ему говорю «ок, а теперь перенести прокси из Европы в США»
результат: photos.app.goo.gl/PMmdcP2B1KkPFGvW7
если бы это был настоящий ассисент, он бы погрузил все «железо» на корабль и просто сбросил бы все где-то в середину Атлантического океана
а евангелисты новой эпохи нам рассказывают, как они дадут генераторам случайных токенов доступ ко всему и те буду для них воплощать мега планы типа «купи мне землю в штате Калифорания, найми архитектора, рабочих и построй мне трехэтажный дом»
відповідь жеж очевидна, ви запустили недостатню кількість агентів. Дональд Трамп, думаю, порекомендує не меньше 50 для такої задачі одночасно.
Він сімейний архів що, в temp папці зберігає?
А як же «ви усі не потрібні, я навайбкодю усе що захочу лівою п’яткою з закритими очами»?
Якось в’яленько захищаєш вайбкодінг, «ой ну це він сам винен, зберігав фотки на робочому стлі у теці temp»
мозги зовсім потекли вже?
Це гарна відповідь на моє питання, чесна. Але я бачу що ти трохи невпевнений, тому заявляю, що знак невпевненості у кінці зайвий.
просто не розумію до чого ти тут вайбкодинг приліпив і яке він має відношення
але логіка і Дімон це дві паралельні лінії
у тебе — давно
Чувак ти не повіриш
dou.ua/...rums/topic/57538/#3051417
а) це юзера дебіли, це не аішка не розуміє що робить, бо їй треба ще одного агента спавніть на кожну підзадачу яку вона робить і так у рекурсії. Бо інакше вона починає шлючити.
Я лише говорив про конкретних юзерів а не всіх, не треба за мене додумувати.
Цей конкретний юзер — дебіл. Да АІшка тупанула, но це не робить юзер менш дебілом. Зберігати все своє життя на робочому столі без бекапів, це ж додуматися треба.
Мінуси? Якщо воно вирішує твої задачі, які будуть мінуси? Те що кількома агентами а не одним? Да похєр, аби вирішувала задачі.
Ну як ти можеш так жити і міняти свою точку зору лише тому що тобі зручно?
Ти ж минулого тижня доводив мені у кількох темах, що розробники не потрібні, і можна кодити без контексту, бо я тобі намагався довести, що результати на виході залежать від рівня розробника і чи проводить він супервайзінг, бо оффлоад задачі без контексту для AI приведе до результатів, що я і зацитував тобі.
Ткни пальцем хоч на один такий коментар
Так бекапи були в icloud.
ІМХО це баг що видаляє повз корзину, має ж бути параметр для терміналу мувнути в корзину
Жарти жартами, а я колись власними очами у епоху свого сісадмінства-енікейства (на початку і в середині2000-х) бачив бухгалтерів, що «зручно документи у корзині зберігали» на робочому столі.
Ще раз. У Корзині. Коли треба було — вони їх звідти діставали.
сисадмінство то зовсім не енікейство віндоус корзин чи у будь-якому сенсі handyman, навіть якщо хтось так і вважає)
В корзині ж.
Пфффф, вважаю що на місті ШІ треба було ще картинку з двома поважними панами які наголошують що ви невдаха запостити
И обнулить кредитную карточку
обнулена кредитка це норм. Погано якщо в глибокий мінус загнали
Здається, якщо завтра «ШІ» дозволять лікувати людей та це призведе до смертей пацієнтів через недолугі помилки, то це... ніяк не вплине і люди продовжуватимуть лікуватися у «ШІ» й помирати через нього, кажучі «нічого, скоро вийде нова версія».
«Скоро буде GHI, General Healthcare Intelligence», що ви тут розумієте! На лікаря не треба вчитися, воно і розріже, і зашиє, і полікує. Навіть думати не треба. Воно саме подумає за вас.
від анестезії також помирають, но ти не відмовишся від неї у стоматолога
все залежить від рейта помилок, якщо він буде менший ніж у людей — хай лікує ШІ
т.е. AI будет делать так же как сейчас делают простые врачи?
Тільки в цьому році вийшли правильні моделі й агенти, які нарешті правильно лікують!!! )))
ну я б не хотів лікуватись у ШІ
але заради справедливості, не треба забувати, що в нас в країні можна стати врачем суто по знайомствам і за пару тисяч зелених. Врачі так само роблять помилки та наживаються на пацієнтах. Просто ми це сприймаємо як «норму» бо краще людина ніж робот — з чим я погоджуюсь бо людину хоча б можна під суд віддати.
таких кейсів тисячі, але 1 мені запамятався найбільше. Львів, іноземцю стало погано, привезли до лікарні вночі, медсестра сказала «лікаря нема на зміні, чекайте до ранку» і поклала його на ліжко в коридорі — прийшов ранок і чувак вмер в коридорі через внутрішній крововилив. Тут і без АІ-шки обійшлось.
у всих, хто не живе у ізоляції, і кому більше30-35 (а деяким і більше 18) з процесом проживання накопичуються істороії, почуті не від кумів-сватів-знайомих, про лікування у живих лікарів)
Мене більше турбує, що станеться, коли недолугі адепти заміни усього і вся на аішку всліпу, так само всліпу, запустять10-20-30 агентів лікувати пацієнтів.
А враховуючи стан медицини і можливість заплатити кому треба, особливо у США, це може статись найближчим часом. Особливо на тест-майданчиках, які ті самі сліпі адепти тут у комментах вихваляють за швидкість проникнення AI у всі рівні життя у країні, а саме африка тощо.
«всліпу» це вже ти від себе добавив, у вас це традиційно класти іншим свої слова в рот, а потім з «експертністю» доказувати, що вони не праві
взагалі, враховуючи медичне і страховочне лоббі, АІшка там з’явиться в останню чергу, плюс зарегульованість
В Україні лікар має 6 років провчитися, потім ще 3 (чи 5?) роки інтернатури. Про які знайомства і пару тисяч ви говорите?
Начебто і без ШІ медицина працює так само на протязі сторічь
О я так ще в махнаті роки намагався оптимізувати фотоархів python скриптами і легкою бажиною в коді видалив половину. Слава Богу був бекап у хмарі. Причому не авто а просто zip архів що робив вручну
Це можна зробити і без ШІ. Взяти молоток і лупити ним по ноуту.
Ші тут не причина проблеми
Молоток не дав би автовидалення з хмари.
«Дітки, а сьогодні ми пишемо органайзер для фотографій на домашньому компі»
«клацає по клаві»
«дістає молоток і починає бити свій макбук»
«Ось, дітки, бачите, втратити фото можна і без корявого коду, а це означає що ми маємо право встунути AI у кожну річ, яка має електроживлення»
Доволі неочікуваний підхід до організації фотографій у вас. Більше схооже на комічно-сатиричні ролікі на ютубі з неочікуваною розв’язкою.