OpenAI формує команду для контролю AI

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

OpenAI веде роботу над створенням нової команди для управління «надрозумними» системами штучного інтелекту, повідомляє TechCrunch.

Ілля Суцкевер, головний науковий співробітник та співзасновник OpenAI, разом з Яном Лейке, менеджером компанії, прогнозують, що штучний інтелект може перевершити людський протягом наступних десяти років. Вони застерігають, що випадкова поява такого «надрозуму» може бути небезпечною, тому необхідно знаходити способи його контролю та обмеження.

Для досягнення цієї мети OpenAI формує нову команду під назвою Superalignment з Суцкевером і Лейке на чолі, яка матиме доступ до 20% наявних обчислювальних ресурсів компанії. Цей новий підрозділ протягом наступних чотирьох років спробує вирішити основні технічні проблеми управління «надрозумним» штучним інтелектом.

Суцкевер і Лейке описують свою майбутню розробку як «автоматизованого дослідника вирівнювання на рівні людини». Системи штучного інтелекту, з використанням зворотного зв’язку від людей, повинні навчитися допомагати у оцінці інших систем штучного інтелекту.

Головна ідея OpenAI полягає в тому, що штучний інтелект може бути більш ефективним і швидким у контролі над «надрозумним» штучним інтелектом, ніж люди.

«Вони будуть працювати разом з людьми, щоб забезпечити, що їхні нащадки будуть більш орієнтовані на людські цінності... Дослідники зосередять свої зусилля на перегляді досліджень вирівнювання, здійснених системами штучного інтелекту, замість того, щоб проводити такі дослідження самостійно», — зазначається у блозі OpenAI.

Однак керівники компанії визнають, що використання штучного інтелекту для оцінки може призвести до невідповідностей, упереджень або виявлення вразливостей у наступних поколіннях штучного інтелекту. Також може статися, що найскладніші проблеми вирівнювання взагалі не мають технічного характеру.