Поговоримо про галюцинації ШІ

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Не так давно я писав про те, як Сем Альтман стверджував, що галюцинації є ключовим чинником успіхів ШІ у творчих сферах діяльності.

Так, на його думку, саме завдяки галюцинаціям ШІ досягає успіхів у малюванні, вигадуванні назв або написанні творчих есе.

Але як бути з тими сферами, де потрібна точність?

Вчорашня публікація в Associated Press про модель ШІ для розпізнавання голосового мовлення Whisper від OpenAI виглядає для мене справжньою бомбою.

Справа в тому, що Whisper використовується для перетворення голосу в текст. Зазвичай це субтитрування, транскрипції інтерв’ю або голосові інтерфейси в мовних асистентах.

Проте, діапазон застосування Whisper виявився значно ширшим.

Його почали використовувати деякі лікарні для автоматичного запису консультацій лікарів з пацієнтами, для транскрипції судових засідань і складання поліцейських протоколів на основі відео з нагрудних камер.

Однак Whisper має серйозний недолік: він схильний вигадувати фрагменти тексту або навіть цілі речення.

Ще гірше, що деякі з вигаданих текстів можуть містити расові коментарі, агресивну риторику і навіть вигадані медичні процедури.

Я вже не кажу про створення неправильних субтитрів для людей з вадами слуху.

Та попри все це, навіть незважаючи на попередження OpenAI, що Whisper не слід використовувати в «сферах підвищеного ризику», деякі лікарні поспішають впроваджувати цей інструмент.

Більше за все мене дивує той факт, що інструменти для перетворення голосового мовлення на текст існують вже досить давно. Використання в них великих мовних моделей не є необхідністю.

Так, можливо, Whisper працює трохи краще, але чи не варто подумати про використання більш надійних технологій, таких як Google Speech-to-Text або Microsoft Speech-to-Text, принаймні у сферах, чутливих до точності?

Зрештою, ці інструменти можна було б використовувати для тих самих цілей вже багато років тому. А те, що відбувається зараз з усім, що хоч якось стосується ШІ, — це просто результат хайпу. І це дуже шкідливо, в першу чергу, для самого ШІ.