Що таке оперативна інженерія (prompt engineering)?

Оперативна інженерія – це практика проєктування вхідних даних для інструментів штучного інтелекту, які даватимуть оптимальні результати.

Скажімо, ви готуєте спагеті з маринарою на вечерю. Соус з банки – це чудово. Але що, якщо ви купите помідори та базилік на фермерському ринку, щоб приготувати власний соус? Швидше за все, він буде набагато смачнішим. А що, якщо ви виростите власні інгредієнти на своєму городі і приготуєте власну свіжу пасту? Цілком новий рівень пікантної смакоти.

Так само, як кращі інгредієнти можуть зробити вечерю смачнішою, кращі вхідні дані в моделі генеративного ШІ (gen AI) можуть дати кращі результати. Ці дані називаються підказками, а практика їх написання – інженерією підказок. Кваліфіковані інженери розробляють підказки, які оптимально взаємодіють з іншими вхідними даними в інструменті генеративного ШІ. Ці дані допомагають отримати кращі відповіді від ШІ-моделі, а це означає, що модель може краще виконувати свої завдання, такі як написання маркетингових електронних листів, генерація коду, аналіз і синтез тексту, взаємодія з клієнтами за допомогою чат-ботів, створення цифрового мистецтва, написання музики або будь-яке інше з сотень, якщо не тисяч, сучасних застосувань.

ШІ нового покоління відіграє важливу роль у майбутньому бізнесу та суспільства. Але яке місце в ньому посідає оперативна інженерія? І як написати хорошу підказку? Читайте далі, щоб дізнатися.

Що таке генеративний ШІ?

Насамперед, нагадаємо, що таке генеративний ШІ. Моделі генеративного ШІ – це додатки, які зазвичай будуються з використанням фундаментальних моделей. Ці моделі містять розширені штучні нейронні мережі, натхненні мільярдами нейронів, з’єднаних у людському мозку. Фундаментальні моделі є частиною так званого глибокого навчання, яке стосується багатьох глибоких шарів нейронних мереж. Глибоке навчання стало основою для багатьох останніх досягнень у галузі штучного інтелекту – речей, які ви, ймовірно, вже використовуєте, наприклад, Alexa або Siri, – але фундаментальні моделі представляють собою значну еволюцію в рамках глибокого навчання. На відміну від попередніх моделей глибокого навчання, фундаментальні моделі можуть обробляти масивні та різноманітні набори неструктурованих даних. ШІ, навчений на цих моделях, може виконувати такі завдання, як відповіді на запитання, класифікація, редагування, узагальнення та створення нового контенту.

Як розвинути навички оперативної інженерії?

Отримання хороших результатів – це не ракетна наука, але це може потребувати терпіння та повторення. Так само, як і коли ви просите про щось людину, надання конкретних, чітких інструкцій з прикладами, швидше за все, призведе до хороших результатів, ніж розпливчасті інструкції.

Як штучний інтелект вплине на робочу силу?

Останнє дослідження McKinsey свідчить про те, що ШІ здатен підвищити ефективність продажів і маркетингу, роботи з клієнтами, розробки програмного забезпечення тощо. У процесі цього ШІ може щорічно додавати до світової економіки до 4,4 трильйона доларів у різних секторах – від банківської справи до медико-біологічних наук.

Прориви, зумовлені ШІ, також змінять робочу силу. Однією з сильних сторін ШІ є те, що він може допомогти майже кожному в роботі. Це також є одним з найбільших викликів технології. За оцінками McKinsey, ШІ та інші технології мають потенціал для автоматизації робочої діяльності, яка сьогодні поглинає до 70 відсотків часу працівників. Це значною мірою пов’язано зі здатністю ШІ передбачати закономірності, що містяться в природній мові. Це, в свою чергу, означає, що ШІ матиме більший вплив на роботу зі знаннями, пов’язану з професіями, які мають вищу заробітну плату і вищі вимоги до освіти. І ці зміни, швидше за все, відбудуться швидко: За оцінками McKinsey, половина сьогоднішньої трудової діяльності може бути автоматизована між 2030 і 2060 роками. Це приблизно на десять років раніше наших попередніх оцінок.

Чи наймають організації оперативних інженерів?

Згідно з останнім опитуванням McKinsey про ШІ, організації вже починають вносити зміни у свої практики найму, які відображають їхні амбіції щодо ШІ. Це стосується і найму оперативних інженерів.

Опитування вказує на дві основні тенденції. По-перше, організації, що використовують ШІ, наймають працівників на посади, пов’язані з оперативним інжинірингом: 7 відсотків респондентів, чиї організації впровадили штучний інтелект, наймають працівників у цій категорії. По-друге, організації, що використовують ШІ, наймають набагато менше інженерів для програмного забезпечення, пов’язаного зі штучним інтелектом, ніж у 2022 році: 28 відсотків організацій повідомили про найм на ці посади у 2023 році порівняно з 39 відсотками у 2022 році.

Якщо організації наймають оперативних інженерів, чи означає це, що існуючі працівники будуть витіснені?

Оперативні інженери, ймовірно, стануть більшою категорією найму в найближчі кілька років, але організації також очікують перекваліфікації своїх існуючих співробітників у сфері ШІ. Майже чотири з десяти респондентів, які повідомили про впровадження ШІ, очікують, що більше п’ятої частини персоналу їхніх компаній буде перекваліфіковано, тоді як лише 8% стверджують, що чисельність їхнього персоналу зменшиться більш ніж на п’яту частину.

Як оперативна інженерія може допомогти організаціям – скажімо, банкам – ефективніше обслуговувати клієнтів?

В якості одного з прикладів потенціалу оперативного інжинірингу розглянемо банківську сферу. Банки можуть отримати багато користі від генного ШІ. За оцінками McKinsey, інструменти ШІ можуть створити цінність від підвищення продуктивності до 4,7 відсотка річного доходу галузі. Це означає майже 340 мільярдів доларів додатково на рік. Оперативна інженерія відіграє важливу роль у допомозі банкам отримати цю вигоду. Ось як це відбувається.

Припустимо, великий корпоративний банк хоче створити власні додатки з використанням ШІ, щоб підвищити продуктивність роботи менеджерів по роботі з клієнтами (RM). Менеджери витрачають багато часу на перегляд великих документів, таких як річні звіти та стенограми телефонних дзвінків, щоб бути в курсі пріоритетів клієнта. Банк вирішує створити рішення, яке отримує доступ до базової моделі штучного інтелекту через API (або інтерфейс прикладного програмування – код, який допомагає двом програмам спілкуватися один з одним). Інструмент сканує документи і може швидко надавати синтезовані відповіді на запитання, які ставлять менеджери. Щоб переконатися, що менеджери отримують максимально точну відповідь, банк навчає їх оперативній інженерії. Звісно, банк також повинен запровадити процеси верифікації результатів роботи моделі, оскільки деякі моделі можуть галюцинувати або видавати неправдиву інформацію за правдиву.

І це не просто гіпотетичний приклад. У вересні 2023 року Morgan Stanley запустив ШІ-помічника на основі GPT-4, щоб допомогти десяткам тисяч менеджерів з управління капіталом знаходити і синтезувати величезні обсяги даних з внутрішньої бази знань компанії. Модель поєднує пошук і створення контенту, щоб менеджери з управління капіталом могли знайти і адаптувати інформацію для будь-якого клієнта в будь-який момент.

Європейський банк розробив віртуального експерта з питань екології, соціальної політики та управління на основі ген-АІ. Модель відповідає на складні запитання на основі підказок, визначає джерело кожної відповіді та витягує інформацію з малюнків і таблиць.

У цих прикладах, як гіпотетичних, так і реальних, чим краща підказка, тим кращий результат.