Гайд для продуктових дизайнерів: на що звертати увагу в роботі з AI-системами

Мене звати Дмитро Старков, і я продуктовий дизайнер, що створює інтерфейси для автомобільних AI-систем вже понад 5 років. Не те щоб за цей час я став експертом у ML, але все ж таки набув деякого досвіду в продуктовому дизайні для штучного інтелекту.

Минулого року глобальний ринок рішень, присвячених Artificial Intelligence (щоб не починати холівар, приймімо визначення Google про те, що штучний інтелект (AI, ШІ) — це здатність машин розпізнавати закономірності та допомагати людям вирішувати конкретні завдання) оцінювався у $93,5 млрд з прогнозом зростання на 38% до кінця 2030. Сьогодні тема AI та ML є, напевно, однією з наймодніших у середовищі технологічних стартапів.

Зараз я працюю в компанії, яка створює алгоритми, що збирають дані про поведінку водія, знаходять там закономірності і допомагають автоматизувати другорядні задачі водіїв (тобто не пов’язані безпосередньо з керуванням, селф-драйвінг — це не наша справа), такі як вибір радіостанції, налаштування комфортної температури в салоні, або сортування контакт-листа з урахуванням ймовірності вибору того чи іншого контакту у той чи інший момент.

А ще ми можемо запропонувати водієві включити яку-небудь функцію автомобіля, яка чомусь не використовується, але яка була б доречною в цих умовах і в цей момент часу.

У сучасному автомобілі легко відволіктися від основних справ, в тому числі стеження за дорогою і самого водіння. Наприклад, у Великобританії сьогодні «відволікання водія всередині транспортного засобу» вказується як друга причина ДТП (після водіння в нетверезому стані).

Повідомлення телефоном, користування навігацією, керування медіаплеєром — це все приклади такого відволікання. Скільки життів ми можемо врятувати, автоматизувавши всі ці другорядні завдання, будь то вибір відповідної температури або ввімкнення улюбленої радіостанції в потрібний час?..

Робота над інтерфейсами, які оперують ймовірностями, трохи відрізняється від роботи над традиційними інтерфейсами, але за своїм принципом залишається все тією ж роботою продуктового дизайнера, з дослідженням користувачів, визначенням їх потреб, цілей та пошуком інсайтів.

У роботі над AI-інтерфейсами ми так само використовуємо традиційні UX-методи, проводимо продуктові дослідження, визначаємо вельюпроп, вивчаємо користувачів, створюємо карти користувацького досвіду, інформаційну архітектуру, візуальний дизайн, тестуємо і валідуємо прототипи продукту.

Але все ж таки різниця є, і в цій статті я хотів би розповісти про неї трохи докладніше. Я спробував зібрати тут дещо хаотичний, проте короткий гайд про те, що потрібно знати продуктовому дизайнеру на кожній стадії роботи над AI-системами.

Роль дизайнера в проєктах, пов’язаних з AI і ML, настільки ж важлива, як і сам алгоритм, навколо якого побудована система. Причиною цього є сам принцип роботи машинного навчання — ML працює з великими обсягами даних, отже саме дизайнери відповідальні за запуск своєрідного колеса ефективності, коли зручність продукту викликає зростання кількості користувачів, які надають ще більше даних, і ці дані використовуються для того, щоб ще краще навчити систему та покращити продукт.

Чи потрібен ваш продукт

Стривайте, а чи потрібен взагалі ваш продукт користувачам? Це питання завжди варто поставити на початку роботи над будь-яким проєктом.

Саме лише використання машинного навчання не гарантує, що ви займаєтеся проблемою, яка реально існує. Можливо, ви витратите час і зусилля те, щоб створити дуже потужну систему задля вирішення дуже маленької (або навіть взагалі неіснуючої) проблеми.

Продуктовий підхід закликає перед початком робіт перевірити ідеї, що лежать в основі проєкту. Яку бізнес-проблему вирішує ваша модель? Це проблема класифікації чи регресії? Хто ваші користувачі? Чи достатньо вони технічно просунуті, щоби розуміти як працюють технології? Наскільки великий ринок ви хочете підкорити? Чи є там інші гравці, чи виробляють вони продукти, які можуть конкурувати з вашим? Чи немає на перешкоді вашому продукту жодних юридичних або культурних обмежень?

І ще одне. Якщо ви бажаєте створити черговий AI-чатбот, то просто не варто цього робити. Будь ласка. Не треба чатботів.

Чи можливий ваш продукт? Запитайте у дата-сайєнтиста

Якщо ви бачите цінність вашого потенційного додатка, то саме час замислитися, а чи можливий він з технічної точки зору? Запитайте про це у дата-сайєнтиста. Саме ці хлопці та дівчата — найбільші обмежувачі креативності дизайнера.

Дата-сайентист швидше за все розпитає вас про дані, на основі яких передбачається будувати модель. Які дані будуть використані? Статичні вони чи динамічні? Яка гранулярність та якість вже зібраних даних? Чи підпадають зібрані дані під якісь обмеження на використання, типу PCI, HIPAA чи GDPR?

Неможливо переоцінити важливість даних для ML. Пам’ятайте принцип — garbage in, garbage out. Важливо заздалегідь продумати вашу політику збору даних та боротьби за їхню якість, тобто встановити певні процедури валідації вхідних даних.

Звичайно, іноді варто відмовитись від ідеї ML-based продукту, навіть якщо для його існування немає жодних технічних перешкод. Не варто довіряти роботам (навіть дуже розумним) у тих питаннях, де помилка може коштувати дуже дорого (наприклад, визначення життєво важливого діагнозу на основі big data), або коли вам потрібно продемонструвати повну прозорість у причинах рішень, або коли у вас немає впевненості в постійності вашого потоку надходження нових даних.

Будуємо дизайн для AI

Увага на онбординг

Для користувача ML-алгоритм — це чорна скринька. Ви пропонуєте поділитися з вашим додатком величезною кількістю даних, щоб отримати якимсь чудовим чином результати, які ще й будуть змінюватися в залежності від зворотного зв’язку. Звучить як щось, що вимагає хорошого та зрозумілого пояснення на пальцях.

Саме це — перше завдання дизайнера під час роботи над AI-продуктом. Онбординг, процес знайомства користувача з додатком — найкращий момент для такого пояснення.

Отже, на стадії онбордингу вам потрібно:

Запитати дозвіл на збір та використання даних користувача.
Описати, як працює система.
Пояснити, завдяки чому вона ставатиме краще в процесі використання.

Розповідь про окремі фічі вашого додатка можна відкласти на потім, але стадія онбордингу — критично важливий час, щоб дати розуміння принципів роботи системи в цілому. Невдача на цьому етапі здатна зруйнувати довіру до системи, а значить і весь досвід користувача вашого продукту.

Тип спілкування

Тепер варто задуматися про образ вашого AI, про те, як він виглядатиме при спілкуванні з користувачем. Деякі додатки «персоніфікують» свій AI, наділяючи його статтю, голосом, зовнішністю.

Інші вважають за краще зберігати певну дистанцію, в таких додатках AI — це непомітний помічник, який пропонує невеликі покращення тут і там за допомогою емоційно незабарвлених тултипів.

Gmail непомітно підказує можливі відповіді, виходячи з контексту лист

Заздалегідь продуманий стиль вербальної комунікації, очевидно, важливий при створенні діалогових інтерфейсів. Але і для недіалогових інтерфейсів важлива інтонація, з якою ваш продукт звертатиметься до користувача.

Потрібно знайти місце для унікальної інтонації вашого AI на перетині двох шкал, одна з яких — ступінь візуалізації дії вашого алгоритму (від майже непомітних контекстних підказок до детально продуманого персонажа), а друга — ступінь формальності стилю спілкування (від формального або нейтрального до неформального та дружнього).

Einstein AI, який є частиною Salesforce CRM, має свій власний образ, який використовується в рекламі, промовідео та безпосередньо в інтерфейсі

Едж кейси та питання етики

Самонавчальні системи здатні навчитися чомусь не тому. Самонавчений бот Tay, почитавши Твіттер, став спілкуватися цитатами Гітлера, а система NarxCare, яка мала за допомогою ML алгоритмів визначати схильність пацієнтів до зловживання сильними рецептурними речовинами, залишила без ліків багатьох хворих з хронічними болями (вони всі були відзначені як схильні до зловживань).

Ця здатність AI-систем поводитися дивно і неетично в багатьох едж кейсах заслуговує на увагу продуктового дизайнера. Це контрінтуїтивно, але слід ненадовго вивернути навиворіт своє бажання будувати і оптимізувати правильний юзер-флоу, і задуматися про те, яку шкоду може бути завдано вашим алгоритмом.

Нерепрезентативні дані для тренування алгоритму дають неправильні результати роботи. Так, системи розпізнавання облич часто тренуються на базах даних, що складаються переважно з облич білих європейців і потім закономірно мають проблеми з людьми інших рас, яких може образити робота вашого додатку.
Проблеми з приватністю. ML-алгоритми потребують збирання величезної кількості особистих даних користувачів. Чи немає ймовірності, що ці дані будуть використані не за призначенням або просто втечуть кудись не туди?
Передача контролю. Чи готові ви передати штучному інтелекту контроль за важливими сферами життя, такими як продаж ліків важкохворим людям з прикладу вище, чи рішення про дії самокерованих автомобілів у разі ДТП? Чи не служать ваші (безумовно, хороші) алгоритми справам морально сумнівним, наприклад, пошуку незгодних на замовлення авторитарних режимів?

Дизайн невизначеності

У порівнянні з усім вищесказаним, стадія візуального дизайну може здатися простою. Але і вона має кілька особливостей, коли справа стосується дизайну для AІ.

Візуальне оформлення AI-блоків

Якщо ваш продукт міститиме і традиційну інформацію й інформацію, створену за участю алгоритмів машинного навчання, тоді варто їх візуально розділити, підсвітивши контент, створений алгоритмами.

Згенерований контент може бути включений в основний контекст у вигляді підказок, як робить Grammarly:

Досить зручно представляти прогнози алгоритму у вигляді графіків, де наочно показуються як історичні дані, так і прогноз на майбутнє:

Zoho Analytics добудовує графіки в майбутнє

Або укладати згенерований контент у спеціальні підписані блоки, як робить, наприклад, Google Analytics зі своїми інсайтами:

Показуйте долю впевненості

Ще однією особливістю роботи ML-алгоритмів є те, що результат зазвичай має деяку ймовірність своєї «вірності», що називається confidence level. Результатом роботи моделі може бути відразу кілька відповідей, з різним рівнем впевненості в них. Завданням дизайнера є показати цей принцип у візуальному інтерфейсі.

Найпростішим способом є просто зображати значення confidence level для кожного результату роботи алгоритму. Зазвичай він показується у відсотках, але відсотки легко можуть бути конвертовані в частки одиниці (наприклад, 0,69) або спроєктовані на шкалу 0-10 (наприклад, 6.9/10):

Netflix використовує відсотки, Grammarly — одиниці в шкалі 1-100

Amazon Comprehend використовує частки одиниці для показу впевненості

Значення confidence level можуть бути відображені та згруповані за якоюсь ознакою, наприклад, за кольорами (від «небезпечного» червоного до «нормального» зеленого) або за важливістю (від Low до High):

Zendesk Satisfaction Predictions (також комбінований підхід з шкалою 1-100)

Крім того, результати можна просто відсортувати за confidence level, від найімовірніших до найменш та взагалі не показувати цифрові значення:

Google використовує AI для автодоповнення пошукового запиту та сортування результатів

Проєктуємо отримання фідбеку

Процес машинного навчання — це закільцьована система. Вона використовує дані для навчання, пропонує результат і чекає зворотний зв’язок від користувачів, щоб знову використовувати його для навчання.

Спроєктувати такий зворотній зв’язок (його називають feedback loop) — одне з головних завдань продуктового дизайнера.

Які метрики користувацької поведінки можуть бути використані для визначення якості роботи ML-алгоритму? Це можуть бути кліки, перегляди, шери та інші дані про поведінку користувача, які можна зібрати автоматично за допомогою аналітичних систем.
Як можна запитати у користувачів їхню думку щодо якості роботи ML-алгоритму? Тут варто почати з простої можливості для користувачів відзначити, чи був корисний або вірний результат роботи ML-алгоритму (у форматі «так» або «ні», 👍 або 👎), яка потім може перетворюватися на запит детальнішого зворотного зв’язку.

Проста оцінка

Einstein AI пропонує залишити фідбек через форму з декількома опціями

Прототипування і тестування

В цілому, AI-продукт дизайнерам слід розглядати так само як і будь-який інший інтерфейс, побудований на будь-якій іншій складній технології. Така технологія може нести безліч обмежень, які необхідно розуміти та враховувати, але загалом технічна складова не повинна впливати на нормальний дизайн-процес.

Зазвичай, цінність AI-продукту полягає в його здібності до максимальної персоналізації, побудованій на аналізі великих обсягів даних користувача. Отже, доки продукт повністю не готовий, його повноцінне тестування буде суттєво ускладнене. Але все-таки є кілька способів, які я можу порадити для отримання перших результатів від дослідження юзерів.

Прикиньтеся AI

Щоб визначити, чи потрібен взагалі ваш продукт на ринку, вам не обов’язково мати готовий алгоритм. Достатньо просто уявляти, як він повинен працювати, і показати тестованим користувачам макет з абстрактними даними, де будуть підсвічені, наприклад, рекомендації чи передбачення, які має в майбутньому робити ваш продукт.

Зворотний зв’язок від користувачів не дозволить вам протестувати технічну сторону роботи ще не існуючого алгоритму, проте дозволить отримати цінні коментарі та взагалі дізнатися про те, чи цікавий такий продукт для потенційних користувачів.

Тестуйте алгоритм

Буває ситуація, повністю обернена до тієї, що була описана вище. Що якщо у вас ще немає уявлення про те, як виглядатиме фінальний продукт, але вже є працюючий ML-алгоритм? Це гарна можливість для ранньої перевірки його на реальних користувачах.

Для цього потрібно зібрати реальні дані з тестової групи користувачів, пропустити їх через ваш алгоритм, показати користувачам результати, навіть у вигляді простого ексель-файлу, та почути їх думку щодо точності та акуратності результатів. В цьому випадку ви досліджуєте якість ML-алгоритму, використовуючи його в реальних умовах на реальних даних, і маєте можливість відразу провалідувати результати.

Якщо це ML-алгоритм, що будує розклад наступного тижня на основі даних про переміщення користувача за останній місяць, або алгоритм, що рекомендує користувачеві цікаві книжки на підставі його читацької історії та оцінок вже прочитаних книг, то оцінити коректність результату може тільки той користувач, на даних якого створено прогноз. Саме такі користувачі і можуть сказати, чи коректно працюють ваші напрацювання.

Зіграйте адвоката диявола

Ще один обов’язковий тест для вашого AI — це спроба свідомо звести його з розуму і заплутати.

Чи ставиться він однаково нейтрально до всіх людей, незалежно від статі, віку чи раси?
Чи не містять дані, на яких алгоритм навчався, явних упереджень?
Що трапиться, якщо користувачі спробують зламати ваш feedback loop і спотворити зворотний зв’язок, який повинен допомагати продукту ставати краще?

Спробуйте зламати вашу систему до того, як це спробує хтось інший.

Ще пара слів

Big Data та ML-алгоритми дають можливість зазирнути в майбутнє, передбачити зміни та події, які ще не відбулися. Фінанси, медицина та автомобільна індустрія є, мабуть, головними замовниками таких технологій зараз, які не шкодують грошей на нові інвестиції. Але для того, щоб вони запрацювали, треба докладати зусиль не тільки розробникам та дата сайєнтистам, але й продуктовим дизайнерам, які роблять технології зрозумілими і доступними для звичайних користувачів.

Певною мірою, можна сказати, що неможливо забезпечити успіх AI/ML продукту тільки з боку технічних спеціалістів, так само як і тільки завдяки одному лише зручному інтерфейсу — ось чому колаборація та спільна робота є критично важливою частиною розробки AI-продукту, а розуміння основних принципів продуктового дизайну так само важливе для розробників, як і розуміння основних принципів роботи ML-алгоритмів для дизайнерів.

Якщо вам стало цікаво

Якщо вам стало цікаво розібратись в AI, ML та в дизайні для них, то ось максимально короткий список курсів, книжок та сайтів, завдяки яким можна глибше зануритись в тему.

Курс AI for Everyone від стенфордського професора Andrew Ng, одного з головних популяризаторів AI та ML.
Книжка Hebron P. Machine Learning for Designers, є у вільному доступі прямо на сайті.
Невеличка бібліотека статей та відео від команди дослідників AI з Google.

Теми: AI, ML, дизайн, продукт