Експерти попереджують про небезпеку опенсорсних проектів на базі мовних моделей

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

З моменту публічного дебюту ChatGPT на GitHub з’явилося понад 30 тисяч проєктів, що використовують GPT-3.5, причому вони активно інтегруються в найрізноманітніші програмні рішення.

Спеціалісти Rezilion проаналізували 50 найпопулярніших проєктів на базі LLM на GitHub. Вони склали «карту», де по осі Y відзначався рівень популярності проєкту, а по осі X — рівень безпеки на основі рейтингу Scorecard. Ні один із розглянутих проєктів не набрав понад 6,1 бала з 10 можливих, а середній бал склав 4,6. Це означає, що всі найпопулярніші рішення на основі LLM пов’язані з високим рівнем ризику.

Цікаво, що найпопулярніший проєкт Auto-GPT, який зібрав на GitHub майже 140 тисяч зв’язків у місцевому рейтингу, з’явився в репозиторіях менш як три місяці тому та отримав рейтинг 3,7 — тобто він є надзвичайно ризикованим.