Білл Гейтс: «Заклики призупинити AI не розв’яжуть проблему»

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

Засновник Microsoft вважає, що було б краще зосередитися на тому, як можна використовувати розробки ШІ. До того ж на думку Гейтса, важко зрозуміти, як пауза може працювати глобально.

Його інтерв’ю для Reuters було записано після публікації відкритого листа, підписаного Ілоном Маском і експертами зі штучного інтелекту. В листі висувалась вимога терміново призупинити розробку систем, «потужніших», ніж GPT-4 від OpenAI, який може підтримувати людську розмову, складати пісні та підсумовувати довгі документи.

«Я не думаю, що прохання зробити паузу розв’яже проблему», — сказав Гейтс у понеділок.

Ми також публікували розслідування про відкритий лист із закликом зупинити «небезпечну» розробку штучного інтелекту. Виявилось, що деякі підписи є фейком, а сама організація складається з найбільших прихильників ідеології longtermism.

«Очевидно, що штучний інтелект має величезну користь... що нам потрібно зробити, так це визначити кордони».

Схоже, що Microsoft намагається випередити конкурентів, інвестувавши в OpenAI, що створює ChatGPT.

Хоча на цей час Білл Гейтс повністю зосереджений на філантропічному Фонді Білла та Мелінди Гейтс, він був активним прихильником штучного інтелекту та називав його таким же революційним, як Інтернет або мобільні телефони. У блозі під назвою «Епоха штучного інтелекту почалася», він заявив, що штучний інтелект слід використовувати, щоб допомогти зменшити деякі з найбільших несправедливостей у світі.

«Я насправді не розумію, хто може зупинитися, і чи всі країни світу погодяться зупинитися, і чому мають зупинятися», — сказав він. «Але в цій сфері існує багато різних думок».

👍ПодобаєтьсяСподобалось4
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Якщо штати не будуть робити кроки в true ШІ, це зробить Китай.

в смислі зупиняти? мені треба щоб воно заговорило, а не тільки письмово відповідало ))

Яку ще проблему?

Питання в тому чи ми бачимо/побачимо реальні можливості ШІ.
Щоб вірно оцінити наслідки.
І чи ми, бачучи інколи тупуваті відповіді, віримо, що ШІ ще недостатньо розумний?
А що як він вже достатньо розумний, просто тупить щоб це вдало приховувати?

якщо люди туплять, масово, постійно і нічого, то з чого б це критерій «інколи туповаті відповіді» вказували на недостатню розумність?

тут питання як і з людьми — можна використовувати, чи ні. можна придумати запобіжни заходи від гарантованого «інколи туповатих відповідей» чи ні.

Питання в тому чи ми бачимо/побачимо реальні можливості ШІ.

частина людей вже не побачила. і звісно — навряд чи побачить.

бо знову ж такі, тут суто як з людьми — щоб зрозуміти що маєш справу з більш розумною чим ти людиною — треба мати якийсь необхідний рівень розумності. причому різниця в розумності може бути така — що твій рівень не дозволить цю різницю оцінити, і спрацює ефект Д-К — та дурень якийсь перед тобою.
то як індіанець з амазонських джунглів не зможе побачити різниці між звичайним шкільним вчителем математики, популярізатором математики, та відомим світовим математиком.

потому что проблемы с ИИ высосаны из пальца

боюсь что даже не из пальца, а из кое-чего другого

Браття, закликаю вас вчитись користуватись своїм власним розумом. Принаймні щоб працювала кнопка вимк/ввімк. Там є режими, багатоканальність, зв’язок з сервером і ще багато чого природнього.

Однозначно зупинятись бьуло би тупо. Китайці з кацапами зупинятись не будуть. ШІ найближчим часом може дати серйозну військову перевагу. Я думаю в штатах це усвідомлюють і охороняють ці технології по максимуму.
Ця ситуація подібна до розробки ядерної зброї. Якби штати робили паузи то гітлер зробив би ЯЗ першим і тоді була би жопа всім.

Але в довгостроковій перспективі потужність ШІ настільки виросте, що людству настане кінець. Як буде діяти ШІ коли стане розумнішим за людину ми не знаємо. Може він дозволить нам жити на цій планеті, а моєе і ні. Може обмежить популяцію до якоїсь кількості і створить резервації.

очень интересно, почему оркам доступ к интернету полностью не заблокировали

Захід не заблокує, щоб можна було давати альтернативну думку. А путін не блокує , бо бачить, що загрози немає. Кацапи все одно в більшості ведуться на свою пропаганду, альтернативи не шукають

Як буде діяти ШІ коли стане розумнішим за людину ми не знаємо.

Остання версія (GPT-4) вже розумніша за 90% людей. Враховуючи, що створили її ще рік тому, можна припустити, що в OpenAI вже є версія ШІ, яка розумніша за 100% людей, і яка буде показана через рік. Можливо у Маска є ця інформація і тому він пісь-пісь.

вже розумніша за 90% людей

АХАХАХАХАХАХА
А гугл-то, гугл умнее скольки людей?

Остання версія (GPT-4) вже розумніша за 90% людей

причому чимала кількість людей — вже й цього не зрозуміла і впевнено пише «та фігня отой ваш ШІ»

А кто кацапам продаст видяхи для ИИ?

Китайці. У них після хард форку еферіума вони вже на вагу продаються

Поки що не хвилюйтесь. ШІ без зовнішньої інформації від другої особи розвиватися допоки не в змозі, тобто програє кожній автопоетичній системі, як-то людина. Тому, головне завдання ШІ на найближчі сотні років не робити варіант резервації, геолокалізованого концтабору, матриці; а навпаки, випхати людину на периферию знаного, у фронтир мандрів.

Тобто сценарій невеличкого концтабору, звісно, можливий, але лише як заклад виховання тих, хто за «власним» бажанням не стрибає у жерло вулканів, не летить досліджувати Марс, та таке подібне.

Поки що не хвилюйтесь. ШІ без зовнішньої інформації від другої особи розвиватися допоки не в змозі,

А якщо завантажити його в інтернет і дати завдання самостійно і безкінечно розвиватися?

Такий проект, що навіть має задачу знищити людство вже існує: ChaosGPT. На ютубі є пара відео.

Ви серйозно?

З інформаційного боку чим ваш варіант принципово відрізняється від варіанту завантажити його в книгу «Золотий ключик, або Пригоди Буратино» і дати завдання самостійно і безкінечно розвиватися? Ще незнані скабрезні жарти про Мальвіну, звісно, дещо здивують і розважать, але на тому все.

Звісно, інтернет більш інтерактивна штука з інтеграціями типу Mechanical Turk. Я вважаю, що то є дуже важливим елементом, який непомітно випустить джина з пляшки, але ну дуже повільно. Та й принципово нічого не змінюється. Для розвитку ШІ потрібна людина. Тий, хто мусить обмежувати розвиток ШІ, має розробити процедуру виявлення каналів та обмеження надання нових даних людиною. Наприклад, фах AI Engineer може перетворитися у мішень на спині.

Если бы они действительно хотели бы оставить ИИ, они бы говорили про нарушения копирайта, ошибки в ответах и бешенный потенциал в захвате приватных данных
Вместо этого они занимаются criti-hype, когда подогревают хайп вымышленными проблемами, скрывая реальные.

Вангую, что GPT4/5/6 — это как совковый Буран. Слетал один раз и сгнил потом в ангаре.

бешенный потенциал в захвате приватных данных

Точніше у розкритті персональних данних через AI інтерфейс. Захватом займається не AI, а ті хто створює моделі.
От тут вангую на цьому OpenAI і спалиться наживши собі дуже великі проблеми. Особливо у ЄC.

Захватом займається не AI, а ті хто створює моделі.

Нет, я имею ввиду что все промпты, которые отправляются в окне GPT4 — сохраняются на сервере и потом используются в обучении.
Если кто-то слил код, то теперь этот код будет захвачен, переиспользован в качестве обучения и выдан наружу при правильно промпте

нарушение копирайта нет, человек тоже излагает свою мысль, используя информацию полученную от кого то ранее

нарушение копирайта нет, человек тоже излагает свою мысль, используя информацию полученную от кого то ранее

Это называется «плагиат» — и есть нарушение копирайта.

любой человек обучен на одной и той же информации, каков шанс, что неизвестное количество человек, сгенерирует такую же информацию?

Нулевое, если не будут копипастить из гугла.

сейчас не идет конкретно про гугл. В школах, универах обучение по одной и той же литературе, остальная инфа у всех плюс минус одна и та же. Как появиться той самой уникальности, среди не уникальной информации?

А вот она появляется (если только лабы не списывают друг у друга).

Так еще и не известно — летал или нет. Так, монтаж какой-то в павильоне сняли.

Если бы они действительно хотели бы оставить ИИ, они бы говорили про нарушения копирайта

А яким чином ШІ, типу Chat GPT, може порушити копірайт?

Элементарно — он выдает код который был в training set с минимальным изменениями. Берешь любой видосик с ютуба «ААААА ГПТ КОДИТ КАК ЧЕЛОВЕК», находишь код, кидаешь в гугл, находишь откуда украдено.

И вообще www.theverge.com/...​sion-getty-images-lawsuit

Якщо код був у відкритому доступі, то я теж можу його використовувати, що регулярно і роблю, де ж тут копірайт

www.theverge.com/...​sion-getty-images-lawsuit

Якісь васяни скачали базу гетті? Ну ок, судіть їх, якщо доведете, що вони на цьому гроші заробляють. Яке це відношення має до Chat GPT?

Якщо код був у відкритому доступі

То это ничего не значит. Исходники ядра тоже в открытом доступе, но там копирайт GPLv2+

Исходники ядра тоже в открытом доступе, но там копирайт GPLv2+

Chat GPT не копіює і не видає фрагменти коду, він цього просто не вміє, він працює по іншому. І, впевнений, розробники того ядра це точно знають, на відміну від відвідувачів цього форуму.

Chat GPT не копіює і не видає фрагменти коду, він цього просто не вміє, він працює по іншому

Он именно что выдает куски кода из training set. Именно поэтому он отлично справляется с задачками существовавшими в открытом доступе до сентября 2021, но почти полностью проваливается с задачками после сентября 2021.

І, впевнений, розробники того ядра це точно знають, на відміну від відвідувачів цього форуму.

Лол, что ты несешь

Он именно что выдает куски кода из training set.

Доведи, бо він цього не вміє, він не зберігає ніяких кусків, це не гугл. Ти сам можеш це перевірити, запитай у нього щось, що є в одному екземплярі в інтернеті, наприклад ти сам це написав. І подивись на результат.

Доведи, бо він цього не вміє, він не зберігає ніяких кусків, це не гугл. Ти сам можеш це перевірити, запитай у нього щось, що є в одному екземплярі в інтернеті, наприклад ти сам це написав. І подивись на результат.

twitter.com/...​tatus/1635790330854526981

Ти сам дай запит, отримай відповідь і покажи скрін, де там порушено копірайт.

Ба більше, є думка, що всі ті заклики на кшталт серійним вигукам «Вовки!» — пригнічують чутливість до ризиків у ЦА. Якщо міркувати, чому на то витрачаються ресурси, чому то так важливо, то можна прийти до висновку:

1. Населення передчасно дізнається та заспокоїться.
Головна теза: 100% відповідність ШІ людині у якоїсь інформаційній галузі, не те саме, що 100% відповідність людині. Всі ми знаємо, як легко у очкарика відібрати морозиво.

2. Населення поставлять під керівництво ШІ.
Перехід до автоматизованого виробництва, що розпочався задовго до зіркового часу ШІ, виявив проблему, що мізерна кількість людства отримує монетарні бенефіти від супер-централізованого автоматичного виробництва. Рештка залишається у злиднях. Виникає завдання: «взяти та розподілити». Соціалістична логіка є найбільш наочною, але у капіталістичних країнах неприйнятною, там вакцинация СРСР ще дуже стійка. Тому є запрос на універсальний дохід на інших більш складних умовах. Звідти походять всі БЛМ та інклюзивні капіталісти. Втілити будь-яку складну чи ідіотичну систему розподілу — не є технічно проблемою. Проблемою є те, що видав якомусь прошарку людства мандат на ідіосинкразію, втілення правил розподілу без загально зрозумілої логики, ми напевно на довгому проміжку часу залишаєм лише той прошарок жити. Всі ресурси будут спожиті їхніми не дуже розумними та відверто ідіотичними нащадками. Тому ні в якому разі неможливо довірити адміністрування алгоритму розподілу корумпованій людині, напевно жодній людині. Автоматичне виконання алгоритмів теж не працює, бо на початку керівної ланки є фахівці обчислювальних центрів, котрі відповідальні за відтворювання алгоритмів. ШІ, який відтворює структури, алгоритми самостійно, значно кращій кандидат на керівну посаду.

Тут писали про цифровий концлагерь. Так, то воне саме, але не в сенсі ув’язнення на певній локації, а в сенсі отримання пайки, на що ніяк неможливо вплинути. Продовжуємо обурюватися тим, що хтось вигукнув: «Вовки!»

Банальна корпоративна боротьба за бабло. Хтось не дуже встигає за трендами і вирішив пролобіювати страшилки про ШІ.

Цікаво, що цього разу Біллі на коні. Олдскульний пердун бізнесмен схоже обскочить хайпового Маска

Там без 100 грам не розібратись.
OpenAI була non-profit організацією. Зараз вже зрозуміло що це не так і туди активно вливається Microsoft та ChatGPT не є OpenSource що протиречить статуту організації.
Крім того Маск наче пішов з OpenAI хоча щось туди підкидував ще деякий час (набагато менше запланованного)

Да что там разбираться. Толпа народу хотела пилить деньги инвесторов на теме искусственного интеллекта, и они организовали частную лавочку. К концу 2020х стало ясно, что искусственный интеллект в ближайшее время создан не будет и народ решил расходится в свои ниши, и пилить бабло инвесторов там.
Но ушлый Сэм Альтман решил всех развести. Вместо того, чтобы следить за юридической чистотой training set, не тестировать систему на входных параметрах и т.п.; он решил пойти по пути Theranos и правильно подгадав даты релиза, смог проимитировать локальное ускорения темпа исследований (типа «приближаемся к сингулярности»).

Ну тоді все. Кіна не буде. Бізнес клани не здатні створити скайнет. Уся надія на злих вченних

У випадку з Маском, імовірно, інша історія. Розуміючи, що компанія неприбуткова за статутом, єдино що цікавило певних гравців, то — розуміння технології, а саме, як технологію можна монетизувати деінде. Гарно, коли ти не єдиний, хто платить за твою зацікавленість.

Біллі вирішив не паритися, і зробив дериватив у форпрофіті. Елон трохи хитріший. Якісний ШІ залежить від вхідних валидованих даних. Найкращий засіб перевірки та зваження впливу новин живими особами, то є щось на кшталт Твітер.. Через те таке переймання ботами. Потрібен імідж, що твітер — це Mechanical Turk для новин. Далі за схемою Елон розпочне доїти Біллі та Ларі.

Був. Пішов зі скандалом та не надав заздалегідь домовлених інвестицій після того, як борд відмовився виконувати його забаганки.

А між іньшим це більш історичний тренд на вимирання. Доки що, єдиний хижак, який призводив до вимирання цілих фауни — це якраз людина розумна. І одночасно з цими вимираннями, самим древнім мисливцям ставало нічого їсти і таким чином в усіх етносах формується релігія і мораль, духи та боги природи і т.п. Дуже швидко до людей дійшло, що не можна брати з природи більше ніж в ній є. Більшість же видів, що вимирали — якраз залишались без кормової бази. Якщо не буде роботи — відповідно і зарплатні, то запросто може відбутись саме вимирання. Воно і так вже відбувається в багатьох країнах, по статистиці. Українська статистика якраз чітко це показувала. Таким чином , штучному інтелекту зовсім не обов’язково створювати термінаторів, щоб знищіти людей. Достаньо відібрати в них усю роботу. З іншого боку, науково технічний прогрес ще жодного разу не призводив до зменшення робочих місць, а навпаки. Що правда і завжди призводив до корінних змін у суспільстві, революцій та війн.

Часто не народжують, тому що не мають ресурсу на гідний (конкурентноздатний) рівень життя для даного етносу. Наприклад, нема змоги придбати житло. Як не крути — а з економічною кризою 90-х демографічна криза тісно зв’язана, враховуючи ще і демографічну яму утворену другою світовою війною яка на неї наклалась. Смертність, що суттєво перевищує народжуваність — це якраз і є показник вимирання. З більш високими показниками продуктивності праці, діє ще і інші речі, зокрема принцип Паретто. Тобто 80% усіх благ, таким чином отриманих — концентрується в руках 20% людей. Чим це закінчується, ми бачимо останні 30 років.

Чому ви думаєте , що відбувається вимирання? Люди ще ніколи так гарно і довго не жили як зараз. Є первні проблеми з демографією в розвинутих країнах, але тут навпаки проблеми через «бісяться з жиру».

Які саме? У розвинених країнах? У Африці оно голодують досі. У Китаї взагалі не зрозуміло що відбувається.

Це лише перший крок. В певний момент інтелектуальні здібності ШІ перевершать людські на порядок і тоді в нього може виникнути ідея про обмеження людсбкої популяції. І він буде якось діяти. А як саме ми не можемо передбачити, бо як можна передбачити дії інтелекту на порядок вищого ніж твій.

Та й чи треба більше? Навіть того, що є в нас, якщо є можливість масштабуватись, а також якщо є доступ до промислових систем та зброї, цілком достатньо. Або, як інший варіант м’якої сили, людством цілком успішно керують політикани, маркетологи та журналісти. І для того їм не потрібен якийсь супер інтелект

Для виникнення ідеї необхідна чиясь воля

Воля — не проблема. Цифрові агенти у протилежність м’язовим торбам є виразно інерціальними системами. Вони можуть не забувати нічого впродовж довгого часу. Тому можливий ефект метелика у двох варіантах: 1) бажання, що людство згенерувало у продовж одної хвилини можуть бути у виконанні мільярди років, поза небосхил існування людства; 2) поток бажань одної (останньої) людини можуть перевершити можливості системи виконання будь-якого розміру.

Підписатись на коментарі