Може такий кейс (теж з реального життя)? Система пошуку взаємозамінних елементів для однієї величезної компанії, що випускає (крім всього іншого) двигуни.
Є деталі, вони об’єднуються у компоненти, ті у вузли, а вузли у продукти. (насправді система ієрархії була іншою, але це не суть важливо)))
Деталі мають купу властивостей. У тому числі, наприклад, вміст шкідливих речовин. Припустимо регулятор якоїсь країни, куди експортуються двигуни, змінює вимоги до змісту шкідливой речовини А з Х1% на Х2%. Тобі треба з’ясувати для яких двигунів не виконується нова вимога, через які саме вузли\компоненти\деталі, і чим їх можна замінити. Інформація про БОМ-и (Біллз оф матеріалсз) та взаємозамінність у тебе зберігатиметься в графовій базі. Ти можеш вирішити цю проблему як два пальці об асфальт.
А якби б в тебе були вектори?
Ти питаєш — у яких деталях вмісту шкідливої ​​речовини А більше за норму Х2%? Що тобі може відповісти векторний пошук? Що в деталі ХХХ із ймовірністю 65% вміст не відповідає нормі?
Ще гірша ситуація із запитанням «А які деталі можуть замінити деталь ХХХ?»
Ось що тобі відповісти векторний пошук:
Деталь ААА відповідає деталі ХХХ на 93?
Деталь БББ відповідає деталі ХХХ на 88%
Деталь ВВВ відповідає деталі ХХХ на 85%
І що з такою відповіддю робити? )))) Бо векторний пошук дає тобі тільки ступень спорідненості деталей, а не точну інформаці про взаємозамінність — або «да» або «ні».

А що таке «гірше\краще»? Крім якості пошуку є ще метрики швидкості пошуку або витрат, наприклад. Бо коли клієнт дізнається скільки коштуватимуть клаудні GPU для векторизації фрагментів документів та запитів — його пріоритети змінюються))

Damien, а ви не розглядали проблему актуалізації знань (як у Knowledge graph так і в LLM)?
Бо LLM видає інформацію на дату датасету, на якому вона навчалася.
А якщо додавати нову інформацію, то вона повинна або (а) додаватися до наявної, або (б) заміщати наявну (якщо та застаріла). Як це визначити — це нетрівіальна задача.
Цікава тема — темпоральні графи знань де можуть зберігатися тріплети з time-stamps типу:
«PersonA — has friend — PersonB (from T1 till T2)» подружилися
«PersonA — has enemy — PersonB (from T2 till T3)» посварилися
«PersonA — has friend — PersonB (from T3 till now)» помирилися

Знайшов статтю про те, як в ноледж-граф додають вектори шоб зробити Q&A систему. Може знайдете там щось цікаве: aclanthology.org/2023.acl-demo.51.pdf

З самого початку (ще з УРСР) в України багато років було десь 140 (+\-10) вишів. Потім десь наприкінці 19хх років стався бум. Виші стали з’являтися як гриби після дощу. Всі ПТУ\коледжі забажали стати інститутами\університетами\академіями. Нові виші відкривалися в будівлях дитсадків і навіть був випадок коли виш було зареєстровано в 3-кімнатній квартирі. На максимумі в Україні було більше п’яти сотень вишів та їх філіалів. З 2008 по 2023 кількість випускників шкіл скоротилася майже в 2 рази. Демографічний тренд в Україні такий, що ці кількість школярів буде надалі тільки сколочуватись. А кількість вишів залишилась такою самою. Ніхто з ректорів не хоче втрачати своє крісло і об’єднуватись з іншим вишем. Зараз в Україні десь 340 вишів, а при такій демографі вистачило б 200, максимум 250. Перед війною ~80% випускників українських шків вступало до вишів, тоді як середній показник у Євросоюзі десь 30%. Може і добре було б мати 80% населення з вищою освітою, але з якісною вищою освітою. Нажаль багато вишів є просто «друкарнями дипломів».
В Польщі давно впроваджено систему моніторингу працевлаштування випускників вишів. У нас в МОН про таку систему розповідають десь з 2015 року. Там можна було б подивитись який відсоток випускників того чи іншого вишу працює за отриманою спеціальністю, який відсоток працює на посадах які взагалі вимагають вищої освіти, який відсоток тих, хто не знайшов роботу протягом 1-2-3 років після закінчення. І ця статистика мала бути включена до формули розподілу державного фінансування. Багато випускників працюють за спеціальністю — на тобі багато грошей. Багато випускників продають шкарпетки на троєщинському ринку — ніяких грошей з бюджету. Я кожного року шлю у МОН запит — покажіть як працює обіцяна система моніторингу працевлаштування. І кожного року вони відповідають — почекайте ще трохи ось-ось вона вийде з тестової експлуатації в загальний продакшн. CDTO в МОНі змінюються і змінюються, а ця система не працює і не працює. Може тому, що для більшості «ректорського лоббі» вона не вигідна?

Університети мають готувати саме науковців. І таких ВИШів достатньо 3-4. А інженерів мають готувати інститути і можливо коледжі.

Ну якщо використовувати Neo4j як «склад векторів» — тоді да. Я гадав що йдеться про побудову Knowledge Graph з векторів в Neo4j. Тому й здивувався — як це можно зробити і навіщо ))

А що це за доповідь Лекуна? Можете дати посилання?

Але навіщо складати вектори у графові бази? Як визначити зв’язок між цими векторами?

Є такі кейси. В одній великій нафтовій компанії на основі графової БД створили Oil&Gas-онтологію. Потім на цю онтологію наклали тріплети-факти з купи документів\статей\книг. Потім інженер запитує «як захистити занурювальний насос від солоної води?» Запит парситься, накладається на онтологію, в графі знань шукається відповідне «знання» і вуаля.. інженер отримує відповідь «покрась його три рази свинцевим суриком і буде тобі щастя» ))))) До речі, на ембедінгах також можна було б допомогти інженеру. Векторизувати запит і порівняти отриманий вектор з векторами всіх документів і їх фрагментів (параграфів наприклад). А потім вивести список, відсортований за косинусною близькістю.
А без цього інженери витрачали купу свого високооплачуваного часу на пошук, переглядаючи купу документів.

Колись був на проекті де ми створювали семантичний пошук на embeddings та пошук у knowledge graph для проектувальників та R&D підрозділу однієї великої нафтової компанії (назву не скажу бо NDA))). Тому вставлю свою 5 копійок і задам декілька питань.

Мені дуже не віриться, що LLM може створити нормальну онтологію. Для цього LLM повинна мати загальну «картину світу» (хоча б в окремому домені) а цього поки що і близько немає. Звісно, LLM може створити якусь подібність онтології, але потім людині доведеться витратити купу часу, щоб вичистити з цієї онтології все сміття, кострубатості та задваювання.

Що за термін KGDB (Knowledge Graph Database)? Перший раз такий зустрічаю. Є Graph Databases і є Knowledge Graphs які можна на цих Graph Databases побудувати. Але Knowledge Graphs можна намалювати і на папері. А Graph Databases можна використовувати не тільки для побудови Knowledge Graphs.

Чим Cypher Query кращій\гірший за SPARQL? Бо мені здавалось що SPARQL це такий стандарт «де-факто» для побудови запитів в графових БД. Може зараз все змінилось і Cypher Query замінив SPARQL?

«....Бази даних графів знань (KGDB) є універсальними, працюють з різними типами даних і можуть функціонувати як векторні бази даних...» ©
Не можу зрозуміти як вектори можна застосовувати у Knowledge Graphs. Ось взяли ви параграф тексту, перетворили його не вектор і що далі? Як його вставити у Knowledge Graph і зв’язати там з іншими сутностями? (Інакше кажучи — як отриманий вектор накласти на онтологію?)

«...Можна збагатити граф знань, вставивши сутності у векторний простір...»
Не зрозуміло що ви маєте на увазі. «Сутність» це частина графу знань. Ви берете цю сутність, векторизуєте її та додаєте до набору векторів. Виходить ви збагачуєте векторний простір за допомогою векторизованих сутностей? Як можна збагатити граф знань за допомогою векторів я взагалі не можу собі уявити.

«...Модель Embeddings допоможе розташувати схожі сутності близько...» ©
І що нам це дасть? Так, ми можемо взяти сутності, векторизувати їх і за допомогою косинусной близькістю з’ясувати відстань між ними. І як нам це допоможе?
Адже найголовніше в графі знань — зв’язки(!) між сутностями.
Припустимо ми векторизували сутності «Шерлок» і «Ватсон», переконалися, що ці два вектори дуже близькі один до одного. А що далі? Вони можуть бути пов’язані як друзі, вороги, брати, сусіди, тощо. Навіщо нам векторна близькість якщо вона не допомагає визначати зв’язки?

«...граф знань здатен збагачувати метадані у векторній БД для кращого фільтрування даних...» ©
Тут повністю згоден.

Терміни розріджений (sparse) та густий (dense) графи ще можна зустріти як малий та великий граф. Останні дві назви, як на мене, дуже погана ідея. Ці терміни плутають і ведуть в неправильному напрямку розуміння цих сутностей.

Терміни «густий граф» та «розріджений граф» дуже просто пояснити. Це співвідношення кількості зв’язків (відносин) до кількості вузлів (сутностей). При одній і тій самій кількості сутностей граф може бути як густим так і розрідженим. У незв’язного графа «густина» = 0

У D-Wave теж не все добре з кількістю кубітів. Фізичні кубіти D-Wave об’єднані в блоки по 8 шт. Причому цей блок не можна квантово заплутати з ЛЮБИМ іншим блоком. В загальному випадку потрібно вибудовувати ланцюги з блоків. Це все дуже сильно скорочує маркетингові «5000 кубітів»

Но если с помошью квантовых компьютеров найдут способ взламывать криптографию с открытым ключом — это будет сильное потрясение для всего мира ))

Не варто називати пристрої D-Wave — «quantum computer». Це «quantum annealer».
На квантовому комп’ютері можна реалізувати будь-яке алгоритмічне обчислення як і на класичному комп’ютері. Просто далеко не завжди будеш мати «квантову перевагу». А на D-Wave quantum annealer можна реалізувати дуже обмежений клас задач. Це все одно що називати «комп’ютером» пристрій, який тільки і вміє як ділити число на два ))
Так, він щось обчислює. Тобто формально це «комп’ютер» = «обчислювач». )))
Але тоді треба називати «комп’ютером» і калькулятор і навіть дерев’яні рахівниці ))
І квантові комп’ютери с гейтами на кубітах з’явились раніше (2001) ніж квантові анелайнери D-Wave (2007). Так що це ще питання хто з них «динозавр» ))
Набагато цікавіше обговорити, яка фізична реалізація кубітів перспективніша з погляду масштабування і стійкості (часу когерентності).

А MSTL (Multiple Seasonal-Trend decomposition using LOESS) от Nixtla не пробовали использовать?

Марія, у вас майже всі спільноти — по тех.скілам. Єдиний виняток це DefenceTech. Чому б не додати ще Industry-спільнот? FinTech, Healthcare, GovTech, Retail, Telco, etc.

www.dsnews.ua/...​ji-pastki-15102024-509762
Цікава стаття про те, що вільний ринок і низькі податки не можуть призвети до економічного зростання якщо в країні немає інклюзивних інституцій. -> Інституційна пастка України.

«чесна монополія» — це якийсь оксюморон ))

Неприйняття застосування сили в будь-яких випадках?
А якщо хтось вчиняє дії, які завдають шкоди іншим — наприклад дряпає гвоздиком автівки у дворі, або ламає лавочки в парку. Чи допускає лібертаріанство застосування сили в таких випадках? Щоб змусити людину припинити такі дії та відшкодувати збитки?