Google Startup School: Gen AI. Відгук учасника

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Всім привіт! Я Андрій Орлов, Full-stack Engineer у Harbour. Завдяки DOU дізнався про Google Startup School: Gen AI і, оскільки я активно експериментую зі штучним інтелектом та використовую його в комерційній розробці, — вирішив прослухати серію уроків.

Власне шість тижнів потому маю чим поділитись, сподіваюсь, буде корисно для тих, хто не знає чого очікувати та сумнівається, чи варто до таких речей приєднуватись.

Хочу розділити відгук на дві частини. Перша — короткий опис «школи» та лекцій за тижнями. Тут здебільшого буде інформація, яку я переклав з анонсів, декілька скриншотів та мої особисті враження від уроку. Друга — загальна оцінка події та плюси/мінуси інвестицій вашого часу.

Тиждень перший

Урок перший. Current State of Generative AI: Generative AI — Hype vs. Reality

Основними темами були вступ до моделі штучного інтелекту Gemini та детальний аналіз досягнень, обмежень і термінології генеративного ШІ. Якщо слухати на швидкості 1.5х, то цілком нормально 🙂

Практичної цінності майже не несе, але блок про історію був цікавим.

Урок другий. Applications of Generative AI for Your Business

Ця сесія заглибилася у практичне застосування генеративного ШІ у сфері бізнесу, зокрема: як визначити та розробити варіанти використання, адаптовані для конкретних потреб організації. Особливо сподобалась друга частина виступу, де було декілька демок. Ідеально для початківців, які ще не зрозуміли, що таке Gemini.

Тиждень другий

Урок перший. Exploring prompt engineering

Мабуть, найулюбленіший мій урок за цей час. Хороше пояснення, що таке prompt engineering, у чому різниця між техніками та як можна покращити наявні результати. Рекомендую!

Урок другий. Image generation, editing, custom styling and beyond

Google має свою модель для роботи із зображеннями — Imagen. Власне урок про неї й про огляд функціональності.

Послухали про «генерування», «опис», «редагування» на основі інших зображень та «відповіді на питання», пов’язані з картинкою. Демка була присвячена редагуванню та обробці зображень, зокрема застосуванню власних стилів для узгодження зображень із конкретними вимогами брендингу (типу як фішка для маркетологів).

Тиждень третій

Урок перший. Deep dive into embeddings and vector databases

А ось це вже було новим для мене, оскільки раніше не стикався з практичним використанням векторних БД. Класний урок для тих, хто будує системи рекомендацій, e-commerce або займається кластеризацією даних.

Урок другий. Code generation, completion, chat

З опису: «Сесія наголосила на ролі генеративного ШІ у підвищенні ефективності розробників, зокрема у зменшенні часу, витраченого на рутинні завдання, такі як написання шаблонного коду та дебагінгу. Крім того, семінар надав практичні приклади використання генеративного ШІ для перекладу коду між різними мовами програмування, демонструючи універсальність та корисність цих інструментів у широкому спектрі сценаріїв розробки.».

Тема дуже контроверсійна. Урок більше теоретичний.

Тиждень четвертий

Урок перший. Intro to RAG architectures including Vertex AI Search

RAG — дуже бізнес-корисна функціональність. Трохи не вистачило часу на демку, але було цікаво слухати, бо технологія відносно нова і не має видимих обмежень в сферах застосування. Урок тісно перетинається з векторними БД з третього тижня.

З опису: «Ця сесія надала огляд технології Retrieval Augmented Generation (RAG), пояснивши її основні концепції та принципи. Вона зосередилася на проєктуванні архітектур RAG, роблячи акцент на збереженні, пошуку та ранжуванні. Урок також охопив керовані рішення, такі як Vertex AI Search і Conversation, демонструючи їхню простоту у створенні та розгортанні моделей RAG».

Урок другий. Building enterprise chat apps using Gen AI

Найбільш практична частина курсу, оскільки учасники вже мали початкові знання, а самий урок був на 95% з демки. На ньому покроково показувався процес створення чатбота, який може відповідати на питання на основі ваших даних.

Із секції відповідей до запитань:

Q: Can you please share top 3 use cases for virtual agents.

A: Trending top three —

1. Customer Service & Support

2. Lead Generation & Qualification

3. Internal Employee Help Desks

Тиждень п`ятий

Урок перший. Deploying and hosting apps in the cloud

Демка про деплой docker images в Cloud Run. Досить простенько, але цікаво.

Із цікавого: слайди, які пояснюють альтернативні методи деплою, посилання на простенький GitHub-застосунок, який використовує різні Gemini-моделі. Також стало цікаво, що за streamlit framework, який спікери постійно використовують.

Урок другий. Tuning & RLHF

Сесія, на якій моє питання було озвучено в live-режимі, отримав чітку і хорошу відповідь. Інформація про те, як «тюнити» базові моделі під себе, оскільки вони можуть мати загальні знання, але бути абсолютно безпомічними для вашого домену.

Друга частина сесії детально показала, як метод RLHF можна використовувати для подальшого вдосконалення базових моделей шляхом додавання людського зворотного зв’язку в процес навчання.

Тиждень шостий

Урок перший. Model Evaluation for Gen AI

Найкоротший урок про оцінку моделей.

Було розглянуто сервіси та автоматичні метрики для використання. Серед них: загальні сервіси Vertex AI, Automatic Metrics та AutoSxS.

У деталі вдаватись не буду, але, як на мене, інформація дуже швидко втратить свою актуальність, оскільки оцінка моделей дуже швидко стане супернеобхідністю для продуктів, які беруть ШІ за основу. А значить будуть кращі та новіші методи для оцінювання.

Урок другий. Application Development with Duet AI

З опису: «Ця практична сесія представила Duet AI, асистента Google Cloud на базі генеративного ШІ, призначеного для допомоги в різних завданнях, від розробки програм до аналізу даних. Основні навчальні елементи містили налаштування Duet AI в редакторі Cloud Shell і розгортання базового Hello World Flask application, надаючи практичний досвід роботи з цим інноваційним інструментом».

Грубо кажучи, Copilot в середовищі Google Cloud, з яким можна спілкуватись.

Власні думки та враження

Тепер щодо моєї суб’єктивної думки стосовно відвідування таких онлайн-заходів.

1. Це класно робити, коли ви вже маєте якісь персональні перші практичні спроби в тому напрямі. У моєму випадку я імплементував ШІ-функціонал для нашого продукту, тому одразу знав, які з уроків для мене більш цікаві та які питання я хочу поставити, щоб отримати відповідь.
2. Не варто розраховувати, що всі уроки будуть супер інформативними, без води. Вони справді гарно структуровані, йдуть по черзі, але було принаймі два — три, які взагалі були нудними і малоінформативними, оскільки і спікер повторювався, і до того більшість уроків уже містили певну інформацію, яка тут пояснювалась ще раз.
3. Найбільший бонус, як на мене, це можливість отримати хоч і мінімальну, але інсайдерську інфу про нові можливі релізи, а також ранній доступ до деяких фіч чи моделей. І якщо перше можна прочитати десь на форумах, то, наприклад, доступ до моделі Imagen 2 в Vertex AI видали всім, хто був присутній онлайн.
4. Деякі уроки мають в якості домашнього завдання «лабораторні роботи» на спеціальній платформі CloudSkillsBoost. Для виконання лабок потрібно зовсім мало кредитів (типу оплата), натомість більшість залишаються у вас. Ідеально для тих, хто хоче щось спробувати, але не має бажання реєструвати черговий акаунт і прив’язувати свою картку, щоб отримати бонусні $300.
5. Двічі на тиждень (і шість таких тижнів) — це досить часозатратно, якщо вас цікавить лише теоретична частина. Частково повторюючи пункт № 1: без практичного досвіду чи банального «ковиряння в документації» сенсу мало, наврядчи в голові відкладеться багато цінної інформації. А в ситуації з ШІ, де все змінюється щомісяця, це реально може бути марнуванням часу.

Одразу після закінчення «школи» було анонсовано другу частину, тепер на чотири тижні, та пообіцяли врахувати всі відгуки учасників. Я вже зареєструвався 🙂