Datadog додає до платформи можливості AI — цифрового помічника Bits

Усі статті, обговорення, новини про DevOps — в одному місці. Підписуйтеся на DOU | DevOps!

Компанія Datadog запустила Bits — цифрового помічника, який використовує генеративний штучний інтелект (ШІ) з платформи ChatGPT від OpenAI, — повідомляє DevOps.com.

Bits надає рекомендації в режимі реального часу для вирішення проблем, які виникли на платформі спостереження.

Datadog також повідомляє, що розширює охоплення платформи, щоб компанії могли контролювати великі мовні моделі (LLM). Datadog також випустила бета-версію платформи LLM Observability, яка об’єднує дані із застосунків, моделей і різних інтеграцій, щоб допомогти інженерам виявляти та вирішувати проблеми штучного інтелекту у застосунках. Наприклад, зниження продуктивності, дрейф і галюцинації в режимі реального часу.

Bits AI навчається як із даних клієнтів, так і з інших джерел, щоб відповідати на запити через інтерфейс природної мови.

Мета — скоротити середній час вирішення проблем, наприклад, пояснюючи помилки й пропонуючи виправлення коду, якими можна поділитися з розробниками через Slack.

Хоча генеративні можливості штучного інтелекту, додані до основної платформи Datadog, зроблять команди DevOps більш ефективними, не зовсім зрозуміло, яку роль ці команди відіграватимуть у моніторингу магістерських програм, створених групами з обробки даних.

Теоретично команди DevOps повинні відповідати за оптимізацію продуктивності будь-якого елемента програми, але сьогодні більшість інженерів DevOps не мають великого досвіду роботи з LLM, створеними групами з обробки даних.

Однак, принаймні, інженери DevOps повинні мати можливість поділитися першопричиною проблеми, яка негативно впливає на LLM, з групами з обробки даних.

Поки неясно, як швидко LLM будуть включені в додатки. По суті, Datadog тепер надає командам DevOps інструменти ШІ, які їм знадобляться для ефективного моніторингу застосунків, наповнених можливостями ШІ.