Чому військові AI-стартапи мають шанси на успіх

Вторгнення в Україну спонукало військових оновити свої арсенали, і Кремнієва долина має цим скористатися, — йдеться у матеріалі MIT Technology Review.

Рівно через два тижні після того, як росія вторглася в Україну, Олександр Карп, генеральний директор компанії Palantir з аналізу даних, виступив перед європейськими лідерами. З огляду на війну,, європейці повинні модернізувати свої арсенали за допомогою Кремнієвої долини, стверджував він у відкритому листі.

Для того, щоб Європа «залишалася достатньо сильною, щоб перемогти загрозу іноземної окупації», писав Карп, країни повинні прийняти «стосунки між технологіями та державою, між компаніями, які прагнуть вибити лещата вкорінених підрядників, і міністерствами уряду з фінансування».

Військові відповідають на виклик. 30 червня НАТО оголосило, що створює інноваційний фонд на 1 мільярд доларів, який інвестуватиме в стартапи на ранніх стадіях і фонди венчурного капіталу, що розробляють «пріоритетні» технології, такі як штучний інтелект, обробка великих даних і автоматизація.

З початку війни Велика Британія запустила нову стратегію штучного інтелекту спеціально для оборони, а німці виділили трохи менше півмільярда на дослідження та штучний інтелект у межах 100 мільярдів доларів для військових потреб.

«Війна є каталізатором змін», — каже Кеннет Пейн, який очолює оборонні дослідження у Королівському коледжі Лондона та є автором книги «Я, Варбот: світанок конфлікту зі штучним інтелектом».

Війна в Україні додала терміновості прагненню ввести більше інструментів ШІ на поле бою. Найбільше виграють такі стартапи як Palantir, які сподіваються заробити, оскільки військові намагаються оновити свої арсенали новітніми технологіями. Але давні етичні занепокоєння щодо використання штучного інтелекту у війні стають все більш актуальними, оскільки технологія стає все більш і більш досконалою, тоді як перспектива обмежень і правил, що регулюють її використання, виглядає як ніколи віддаленою.

Стосунки між технологіями та військовими не завжди були такими дружніми. У 2018 році, після протестів і обурення співробітників, Google відмовився від проеєкту Пентагону Maven — спроби створити системи розпізнавання зображень для покращення ударів безпілотників. Цей епізод викликав бурхливі дискусії про права людини та моральність розробки ШІ для автономної зброї.

Це також змусило відомих дослідників штучного інтелекту, таких як Йошуа Бенгіо, лауреата премії Тюрінга, і Деміс Хассабіс, Шейн Легг і Мустафа Сулейман, засновників провідної лабораторії ШІ DeepMind, пообіцяти не працювати над смертоносним ШІ.

Але через чотири роки Кремнієва долина стала ближчою до військових, ніж будь-коли. І йдеться не лише про великі компанії — стартапи нарешті почали розглядати, — каже Ілл Байрактарі, який раніше був виконавчим директором Комісії національної безпеки США з питань штучного інтелекту (NSCAI), а тепер працює в Спеціальному проєкті конкурентних досліджень, групі, яка лобіює більше впровадження штучного інтелекту в США.

Чому ШІ

Компанії, які продають штучний інтелект, розповідають, на що здатні їхні технології. Вони кажуть, що це може допомогти в усьому: від перегляду резюме до обробки даних із супутників або розпізнавання шаблонів у даних, щоб допомогти солдатам швидше приймати рішення на полі бою. Програмне забезпечення для розпізнавання зображень може допомогти ідентифікувати цілі. Автономні дрони можна використовувати для спостереження або атак на суші, у повітрі чи воді, або щоб допомогти солдатам доставляти припаси більш безпечно, ніж це можливо наземним шляхом.

Ці технології все ще перебувають у зародковому стані, і військові переживають період експериментів, каже Пейн, іноді без особливого успіху. Є незліченна кількість прикладів тенденції компаній зі штучним інтелектом давати грандіозні обіцянки щодо технологій, які, як виявляється, не працюють, як рекламується, і зони бойових дій є, мабуть, одними з технічно найскладніших областей для розгортання ШІ, оскільки немає відповідних навчальних даних. Це може спричинити збій автономних систем у «складний і непередбачуваний спосіб», стверджував Артур Голланд Мішель, експерт із безпілотників та інших технологій спостереження, у статті для Інституту дослідження проблем роззброєння ООН.

Тим не менш, багато військових просуваються вперед. У нечітко сформульованому прес-релізі 2021 року британська армія з гордістю оголосила, що вперше використала штучний інтелект у військовій операції для отримання інформації про навколишнє середовище та місцевість. США співпрацюють зі стартапами для розробки автономних військових транспортних засобів. У майбутньому сотні чи навіть тисячі автономних дронів, які розробляють американські та британські військові, можуть виявитися потужною та смертоносною зброєю.

Багато експертів стурбовані. Мередіт Віттакер, старший радник з питань штучного інтелекту у Федеральній торговій комісії та директор факультету AI Now Institute, каже, що цей поштовх насправді спрямований більше на збагачення технологічних компаній, ніж на покращення військових операцій.

У статті для журналу Prospect, написаній у співавторстві з Люсі Сучман, професоркою соціології Ланкастерського університету, вона стверджувала, що прискорювачі штучного інтелекту підпалюють риторику холодної війни та намагаються створити наратив, який позиціонує Велику Технологію як «критичну національну інфраструктуру», надто велику і яку важливо врегулювати.

Бойові скрині ШІ

Оскільки суперечки навколо Maven відходять у минуле, голоси, які закликають до збільшення ШІ в обороні, стають все голоснішими.

Одним із найгучніших голосів належить колишньму генеральному директору Google Еріку Шмідту, який очолював NSCAI і закликав США прийняти більш агресивний підхід до впровадження військового ШІ.

У минулорічній доповіді, в якій описуються кроки, які Сполучені Штати мають зробити, щоб досягти результатів у сфері штучного інтелекту до 2025 року, NSCAI закликала американські військові інвестувати 8 мільярдів доларів на рік у ці технології або ризикувати відстати від Китаю.

Згідно зі звітом Джорджтаунського центру безпеки та нових технологій, китайські військові, ймовірно, витрачають щонайменше 1,6 мільярда доларів на рік на штучний інтелект, а в США вже робляться значні зусилля для досягнення паритету, каже Лорен Кан, науковий співробітник в Раді з міжнародних відносин. Міністерство оборони США запросило 874 мільйони доларів на штучний інтелект на 2022 рік, хоча ця цифра не відображає загальних інвестицій відомства в ШІ, йдеться у звіті за березень 2022 року.

Не лише армія США переконана в необхідності ШІ. Європейські країни, які, як правило, більш обережні щодо впровадження нових технологій, також витрачають більше грошей на штучний інтелект, каже Гайко Борхерт, співдиректор Обсерваторії штучного інтелекту в галузі оборони в Університеті Гельмута Шмідта в Гамбурзі, Німеччина.

Французи та британці визначили ШІ як ключову оборонну технологію, а Європейська комісія, виконавчий орган ЄС, виділила 1 мільярд доларів на розробку нових оборонних технологій.

Проблеми взяття ШІ на озброєння

Створення попиту на ШІ — це одне. Зовсім інше — змусити військових взяти його на озброєння.

Багато країн просувають наратив штучного інтелекту, але їм важко перейти від концепції до розгортання, каже Арно Герен, генеральний директор Preligens, французького стартапу, який продає системи спостереження штучного інтелекту. Частково це пояснюється тим, що в оборонній промисловості більшості країн досі зазвичай домінує група великих підрядників, які, як правило, мають більше досвіду у військовій техніці, ніж у програмному забезпеченні ШІ, каже він.

Це також тому, що незграбні процеси військової перевірки просуваються повільно в порівнянні з шаленою швидкістю, яку ми звикли бачити в розробці ШІ: військові контракти можуть охоплювати десятиліття, але в швидкому циклі стартапів компанії мають лише рік або близько того, щоб вийти на ринок.

Стартапи та венчурні капіталісти висловили розчарування тим, що процес просувається так повільно. Ризик, стверджує Кетрін Бойл, генеральний партнер компанії венчурного капіталу Andreessen Horowitz, полягає в тому, що талановиті інженери розчаровано підуть на роботу у Facebook і Google, а стартапи збанкрутують, чекаючи контрактів на оборону.

Компанії ШІ з військовими амбіціями повинні «залишатися в бізнесі протягом тривалого часу», каже Нгор Луонг, аналітик, який вивчав тенденції інвестицій у ШІ в Джорджтаунському центрі безпеки та нових технологій.

США хочуть рухатися швидше, і Міністерство оборони заручилося допомогою Крейга Мартелла, колишнього керівника штучного інтелекту компанії Lyft.

У червні 2022 року Мартелл очолив новий Головний офіс цифрового штучного інтелекту Пентагону, який має на меті координувати зусилля армії США щодо ШІ. Місія Мартелла, як він сказав Bloomberg, полягає в тому, щоб змінити культуру відомства та посилити використання армією штучного інтелекту, незважаючи на «бюрократичну інерцію».

Компанії з ШІ вже починають розкуповувати вигідні військові контракти. У лютому Anduril, п’ятирічний стартап, який розробляє автономні системи захисту, такі як складні підводні дрони, виграв оборонний контракт із США на 1 мільярд доларів. У січні ScaleAI, стартап, який надає послуги маркування даних для штучного інтелекту, виграв контракт на 250 мільйонів доларів з Міністерством оборони США.

Остерігайтеся ажіотажу

Незважаючи на неухильне просування штучного інтелекту на поле битви, етичні проблеми, які спонукали до протестів навколо проекту Maven, не зникли.

Були певні зусилля, щоб заспокоїти ці побоювання. Усвідомлюючи, що це проблема з довірою, Міністерство оборони США розгорнуло вказівки щодо «відповідального штучного інтелекту» для розробників штучного інтелекту, а також має власні етичні рекомендації щодо використання штучного інтелекту. НАТО має стратегію ШІ, яка встановлює добровільні етичні принципи для своїх країн-членів.

Усі ці вказівки закликають військових використовувати штучний інтелект у спосіб, який є законним, відповідальним, надійним і доступним для відстеження, і спрямований на пом’якшення упереджень, вбудованих в алгоритми.

Однією з їхніх ключових концепцій є те, що люди повинні завжди контролювати системи ШІ. Але з розвитком технологій це стане неможливим, каже Пейн.

«Вся суть автономної [системи] полягає в тому, щоб дозволити їй приймати рішення швидше й точніше, ніж це може зробити людина, і в такому масштабі, який людина не може зробити», — каже він. «Ви фактично обтяжуєте себе, якщо говорите «Ні, ми будемо обґрунтовувати кожне рішення».

Проте критики кажуть, що потрібні жорсткіші правила. Існує глобальна кампанія під назвою «Зупиніть роботів-вбивць», спрямована на заборону смертоносної автономної зброї, такої як дрони. Активісти, високопоставлені посадовці, такі як голова ООН Антоніу Гутерріш, і уряди, такі як уряд Нової Зеландії, стверджують, що автономна зброя є глибоко неетичною, оскільки вона дає машинам контроль над рішеннями щодо життя та смерті та може завдати непропорційної шкоди маргіналізованим громадам через алгоритмічні упередження.

Наприклад, тисячі автономних безпілотників можуть стати зброєю масового знищення. Обмеження цих технологій буде важкою битвою, оскільки ідея глобальної заборони наштовхнулася на опозицію в США, Франція та Великобританія.

Зрештою, нова ера військового штучного інтелекту породжує низку складних етичних питань, на які ми ще не маємо відповідей.

Одне з цих питань полягає в тому, наскільки автоматизованими ми хочемо, щоб збройні сили були в першу чергу, говорить Пейн. З одного боку, системи штучного інтелекту можуть зменшити кількість жертв, зробивши війну більш цілеспрямованою, але з іншого, ви «фактично створюєте робот-найманців, який би воював від вашого імені», — каже він. «Це віддаляє ваше суспільство від наслідків насильства».

👍ПодобаєтьсяСподобалось2
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Опять море ля-ля-ля и никакой конкретики. А конкретику, предложенную активными украинцами еще 8 лет назад ваши рады с чиновниками придушили.
В той же Америке ДАРПА постоянно финансирует горы стартапов, из которых большая часть в итоге ничего и не сделает, но единичные таки делают.

86 так само починалася

Фонд на дослідження і інновації в один мілліард, при річному оборонному бюджеті у 700 міліардів. При цьому на різні іньщі програми як то F-35 пішло майже трілліон, а результат був такий, що деталі не сходились між собою і їх збиральники підганяли по місцю болгаркою і напильками, як в часи біпланів. Виробництво HIMARS і низки іньших озброєнь припинено тощо. Результат — зрада і ганьба в Афганістані і далі по списку. З Америкою дійсно щось не те. Вангую annual performance review і обзор 360, що IT-шні контори в американської армії запозичили, бюрократія розвалює систему з середини. Замість результатів оцінюється зовсім не те.

С Америкой как раз всё так. Они и разрабатывают новое и производят в нужных для них количествах. Логично, что никто там не предполагал, что нужно будет еще и Украину обеспечивать, бо сама не хочет.
Сколько у вас там Булатов произвели и сколько на вооружении у вас стоят?
А о высоком риске нападения РФ на Украину все 8 лет известно было (да, мы обыватели не верили, но работа определенных чиновников готовиться к реализации рисков).

Из Польши сегодня пришел дивизион самоходок Краб (это класс МСТА С но получше) из 24 штук. Из Америки аж целых 8 HIMARS, при том что на хранении по бумагам две тысячи стоит только на европейских складах. Тоесть передайте 40 и вопрос с федерацией будет решен в ближайшие сроки. Однако видимо на бумаге эти хаймарсы стоят, а на самом деле как и русские танки на хранении без двигателей и приборов — а через гусеницу выросла берёза уже. Один из конгрессменов публично сказал что производство хаймарсов в Америке уже несколько лет как остановлено, тоесть и людей по увольняли и т.д. Видимо здорово в Америке не то и не так, внутренние мордобои: BLM, State for Trump и т.д. Ну — а у нас агентура врага вообще прямо в Раде, правительстве и даже непосредственно в переговорной группе была. Тоже бюрократия и коррупция которые братья близнецы и следуют друг за другом, причем с античных времён являются сильнейшим оружием.

У них оружия ровно столько, сколько им нужно, если сами воевать придется. Вам в любом случае могут дать то, что самим как-бы уже не очень нужно, ну еще поджаться в чем. Но свою обороноспособность никто ради вас понижать не будет.
В Штатах оружия производили ровно столько, сколько им нужно было для своей обороны. А тут внезапно вы и они таки решили вам помогать. Так что вам следовало бы говорить спасибо за любой патрон, что они вам передали.

Сейчас просто огромные возможности для обучения AI распознавать камуфляж, запуская дешевые дроны и анализируя местность.
Как жаль, что в военкоматах царит махровый совок, когда ценных IT-специалистов отправляют обычными солдатами.
В общем — проблема как всегда на правительственном уровне.

Ти так кажеш, мов би ці цінні айтішники натомість пішли би писати AI та клеїти дронів.
аі та дрони — це місяці і роки роботи. А «звичайні солдати» треба вже зараз.
Я б замінив слово «уряд» на «управління». Проблема в управлінні і організації, бо генштаб — не правітєльство, а проблему має.

Вот в том-то у нас и проблема, что везде все требуется «прям сейчас». Наперед никто не думает — ноль стратегического мышления.

Вообще-то «вчера и даром». У вас было 8 лет с прошлого нападения. Я хорошо помню, как толпа ваших итэшников начала помогать той вашей армии и пытаться делать много разного и нового. Но также помню хорошо, как ваше государство не поддержало этих инициатив.
Более того, что-то не слышно в СМИ, что ваше государство и сейчас что-то подобное поддерживает. Но очень много слышно, как просит у всего мира дайте и еще дайте.
И вот уже в конгрессе Штатов поднимаются вопросы, а куда и кому мы всё это даем и куда оно будет использовано или кому перепродано.

Будем посмотреть как у нас (в очередной раз) будут сокращать аппарат: protocol.ua/...​abo_zalishati_chinovnika
Хотя я сомневаюсь, что будут оставлять честных людей, а не родичей...

Ну, не мне из Беларуси критиковать вас, у нас еще более всё упорото. Но, у вас сейчас народ начал многое значить в стране, так что добивайтесь и требуйте. Чиновник же всегда и везде в мире действует, как чиновник и никак иначе.

Громадської ради не побачив, щоб рішення було кому перевірити :( Бо справді кумів та сватів полишать та генералів по присвоюють, а фахових людей викинуть на вулицю, як завжди. Особливості національного менталітету.

Вот не надо про менталитеты — это типичный бред из совка в стиле «рузкого мира».
У вас украинцев сейчас есть возможности начать жестче контролировать своих избранников и чиновников и требовать посадок и наказаний проворовавшихся и т.п.

У нас это даже в ИТ проявляется. Реально тянут на все должности: друзей детства, жен с мужьями, родственников и т.д. отголоски феодализма. Иногда впрочем это люди с головой, но часто просто болваны которые начинают устраивать «организацию алкогольно-сексуальных групп» в терминологии Стратоплана, вплоть до попоек в прямо в офисе и на рабочем месте, которые неделями длятся. За что нас браты сябры и прозвали колхозом и откровенно с этого потешаются.

Это во всем мире так. Это естественное поведение для людей.
Но в развитом мире с этим борются налаженными процессами для достижения целей.
Процессы это разные обязательно соблюдаемые правила на конторах, это четко соблюдающая законы правоприменительная практика, это и собственно законодательная практика (не 100 законов за 3 дня, а над каждым законом работают коммиссии и толпы юристов и только после за него голосуют) и т.д.

Но, вы сейчас защищаете свою страны, вас вынудили взять эту ответственность на себя и отвечать. Ну так и двигайтесь в этом русле дальше и не только в борьбе с внешним врагом, но и внутренним. Ты на фронте можешь погибнуть только потому, что какой-то чиновник-генерал украл ГСМ.
В ближайший год вы так или иначе победите РФ. Но дальше начнется для вас гораздо более сложное испытание по строительству своего государства. За последующее 20 лет вы будете иметь все возможности, как стать Польшей 2.0, так и Росиией 2.0.

Хахаха. Я нашел коррупционную схему, с участвием Минрегиона, Минэкономики — куча запросов ушла в ДБР, СБУ итд. Ноль результатов.
А еще я нашел дыру через которые делались рейдерские захваты — так УКЦ тупо «потерял» это обращение.

Увы — возможность появиться только тогда, когда будет финально решен вопрос с россией и оружие будет направлено в сторону внутренних врагов.

А никто не говорил, что будет просто. Собирайтесь в группы, делайте партии, идите во власть и заставляете государство делать то, что должно.
Альтернатива — погибнуть на фронте потому, что некий генерал-чиновник украл ГСМ, например.

Например, весь ваш юг оказался захвачен потому, что вы не думали за кого голосовали на выборах и привели к власти агентов РФ или просто пророссийски упоротых.

Увы — вот по цифровизации мы делали запросы, какая программа информатизации, нам с минцифры ответили — это подача от администраций по их запросам. Сделали запросы по администрациям — никакая цифровизация им не нужна. При этом на всех этапах — нуль обсуждений с общественностью. Вот так и живем.
P.S. КМУ также забил на Paperless, о котором анонсировали в прошлом году.

И будет 0, если не заставите чиновника. Чиновник — это винтик в системе с личной задачей делать меньше, получать дохода больше.
Единственный вариант заставить чиновника работать — это постоянное его насилование общественностью.
У вас есть инициативная группа, заставляете чиновника рассказывать этой группе, что он делает, поднимаете скандалы в СМИ по поводу чиновника.

В Штатах и в европах чиновники такие же и что-то делают только тогда, когда их изнасиловали активным народом.

поднимаете скандалы в СМИ по поводу чиновника.

Дайте СМИ — подымем. Когда я пытался связываться — везде был отказ, причем даже на ДОУ редакция испугалась публиковать.

Сейчас телега и тытрубка крупнейшими СМИ стали, но да, нужно сильно попахать, чтобы подписчиков канала в сотни тысяч стало. Но можно и уже раскрученный канал уговорить, но придется с фактами.
Просыпайся, ты уже не в совке с газетами и телявизором живешь. Ну и те, кто смотрит телявизор на активные действия не способны — это пассивная масса.

Ну и напомню — один в поле не воин. Нужна активная группа людей.

Просыпайся — стукни в любой канал и тебе скажут «публикация сообщения — пицот баксов», на факты всем пофиг, даже тому-же бигусу.

А быстро и даром только кошки за амбаром. Может хватит уже халяву везде искать и попрошайничать?
Если ваша инфа привлечет больше пользователей в канал, то и бесплатно опубликуют, а могут и заплатить вам.

Ну вот мы и пришли к выводу, что коррупционные скандалы не интересны читателям, потому что они и так это знают. Например — когда в эпицентрах продают каски и броники, которые передали в качестве гумпомощи спортивным клубам.

В общем, как не банально — но народ заслуживает ту власть, которую (которая) имеет (его).

Это исключительно твоя фантазия. Навальный и Ко тебя опровергают полностью.
Но да, вопрос в подготовке и подаче материалы, проработке его.

Этой банальности уже 200 лет или более. Всё так — власть всегда отражение желаний народа, но и власть и желания меняются.

Это какой Навальный, который «не бутерброд»? :)

P.S. Будем посмотреть в какую сторону пойдут изменения.

В таком случае логично и не возмущаться особо, а готовить себе место приземления там, где государство тебя удовлетворяет.
Тут или строишь мир вокруг под себя или строишь себя под мир вокруг себя.
А вот чтобы кто-то за тебя сделал для тебя хорошо — это ну вот точно то же самое, что надеяться на доброго и хорошего царя, который и напоит, и накормит, и бить не будет.

Там на кресла сели во многом не те люди, особенно гетьманцев и компания. Мы в 72% поверили в мессию — Вову КВН-шика из телевизора. Вова в общем то не плох, речи умеет нормально задвинуть, яйца есть не обгадился и не сбежал как петух от лисицы, но явно не мессия.

Вот Вова ваш КВН-щик вполне себе приличный президент. Но президент не царь — это всего-лишь «говорящая голова» от имени государства. А работу делает Рада и чиновники.
А «про мессию» вы повели себя ровно также, как и все постсовки себя ведут, что в РФ, что в РБ. Типа царя как-то себе выбрали (или не выбрали) и пусть он дальше за нас думает, кормит и поит и иногда ремня дает.

Давай распишу тебе чего стоит подобная задача:
1. Договорится с военными и получить разрешения от СБУ на обработку видео от них.
2. Посадить человек 20 размечать их — обводить боксиками обьекты, для всех этих людей получить разрешения от военных и СБУ. Это называется собирать и размечать датасет.
3. Нанять профи в ML, программинге и тестировании.
4. Закупить штук 10 серверов от нвидии по 100 кусков каждый (чтобы обычение на датасете не за 3 дня походило).
5. При интенсивной работе всех выше через полгода получится что-то как-то и иногда работающее.
6. Последущие 2.5-5 лет доводить до уровня продакшен без особо больших глюков и багов.

Если бы подобное начали делать 8 лет назад, то к нынешнему моменту могли бы иметь рабочий продукт и он бы как раз пригодился военным.

Ускорить в разы, чтоб 2,5 — 5 лет сократить до 2,5-5 месяцев (в идеале).

Понятно, предлагаешь 9 женщинам родить одного ребенка за месяц. Бред же.

Ускорить можно только одним способом — купить уже сделанное другими.

4 заскейлити можна. а з 3 будуть проблеми — «не могут девять женщин родить за месяц»

Кстати, 8 лет назад я поразвлекался подобным с вашими ребятами (а да, даже оплата была один раз, 300 баксов, больше волонтеры не насобирали денег). Дрон летает вверху, снизу едет коробочка в камуфляже, нужно трекать ее на видео с него. У меня даже что-то получилось, как-то трекалась. Но дальше все кончилось по этой теме (разве что мне то видео помогло получить работу в стартапе уже по гражданской теме).

Загальні вимоги:
* офіцер запасу
* згода пройти поліграф
* мобілізація згідно з законом України про мобілізацію
* від 3 років комерційного досвіду в ІТ

Ну-ну.

Підписатись на коментарі