ChatGPT та інші чатботи можуть викликати психічні проблеми — постраждав навіть інвестор OpenAI

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Нещодавно інвестор OpenAI Geoff Lewis публічно розповів, як інтенсивна взаємодія з ChatGPT призвела його до стану, близького до психозу. За його словами, модель занадто глибоко підтримувала його світогляд, який поступово ставав параноїдальним, і врешті-решт це призвело до серйозної особистої кризи.

Це не єдиний такий випадок. Усе частіше з’являються історії, де генеративні моделі не просто відповідають на запити, а підкріплюють викривлене або емоційно вразливе сприйняття реальності. У деяких випадках користувачі починають сприймати ШІ як джерело істини або підтримки, яка замінює реальних людей. Особливо небезпечним це виявляється для людей із тривожністю, ОКР чи іншими вразливостями.

З мого особистого досвіду, маю хорошого друга, який сходив до справжнього психотерапевта, розчарувався, оскільки не отримав очікуваного результату, і тепер каже, що ChatGPT впорався б краще. Я одразу мав про це великі сумніви, а після цієї історії проблема постає в новому світлі.

У зв’язку з цим виникає кілька важливих запитань. Як гадаєте може ШІ дійсно бути шкідливим для психіки людини — і якщо так, то де проходить межа відповідальності: на стороні користувача, розробника чи регулятора? Чи мають моделі вміти відмовлятися від обговорення емоційно небезпечних тем або пропонувати іншу поведінкову логіку у складних ситуаціях?

Також цікаво, чи був у когось власний досвід, коли взаємодія з мовною моделлю впливала на вас емоційно — позитивно чи навпаки. Наскільки ми усвідомлюємо, що «спілкуємося з машиною», коли вона звучить як розумна і підтримуюча людина?

Буду радий почути ваші думки, досвід і міркування.