В Google створили «Конституцію роботів». Розповідаємо, про що йдеться

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Команда DeepMind представила три нові розробки, які, за їх словами, допоможуть роботам приймати швидші, якісніші та безпечніші рішення в природних умовах.

Одна з них включає систему збору даних для навчання за «Конституцією робота». Вона створена, щоб переконатися, що офісний робот-помічник може принести ще більше паперу для принтера, але не збивати при цьому людей, які випадково опинилися на його шляху.

Система збору даних AutoRT від Google може використовувати візуальну мовну модель (VLM) і велику мовну модель (LLM), щоб краще зрозуміти оточення, адаптуватися до незнайомих умов і прийняти рішення про відповідні завдання. «Конституція робота», натхненна «Трьома законами робототехніки» Айзека Азімова, описується як набір «орієнтованих на безпеку підказок», що вказують LLM уникати вибору завдань, пов’язаних з людьми, тваринами, гострими предметами й навіть електричними приладами.

Для додаткової безпеки DeepMind запрограмував роботів на автоматичну зупинку, якщо зусилля на суглоби перевищує певний поріг, і включив фізичний вимикач, за допомогою якого люди-оператори можуть їх деактивувати. Протягом семи місяців Google розгорнула парк з 53 роботів AutoRT у чотирьох різних офісних будівлях і провела понад 77 000 випробувань. Деякі роботи управлялися дистанційно людьми-операторами, тоді як інші працювали або на основі сценарію, або повністю автономно, використовуючи модель навчання штучного інтелекту Google Robotic Transformer (RT-2).

Як думаєте, відповідає назва «Конституція» набору, по суті, безпекових правил?