Назад до блогу
Безпека та регулювання17 хв читання

Пояснюваний ШІ у виробництві: коли «чорна скринька» неприпустима

Чому виробничий ШІ не може залишатися непрозорим: рівні пояснюваності, методи XAI, регуляторні вимоги та компроміс між точністю і прозорістю.

S

Serhiy Andrejev

Lead Machine Learning Developer

У критичних виробничих середовищах «так сказала модель» ніколи не є прийнятною відповіддю. Коли рішення ШІ впливають на фізичні процеси, якість продукції та безпеку людей, кожна зацікавлена сторона — від оператора на виробництві до зовнішнього аудитора — повинна розуміти, чому система видала саме таку рекомендацію. Ця стаття розглядає рівні пояснюваності ШІ, практичні підходи до її досягнення та регуляторний ландшафт, який перетворює прозорість на безальтернативну вимогу.

Вступ

Розглянемо сценарій, який неодноразово спостерігається в промислових умовах: модель предиктивного обслуговування позначає критичний підшипник турбіни як такий, що потребує негайної заміни. Команда технічного обслуговування стоїть перед чотиригодинною зупинкою та витратами на запасні частини в розмірі 200 000 доларів. Показник впевненості моделі становить 94%. Проте інженер зміни вагається — не тому, що модель помиляється, а тому, що ніхто на виробництві не може пояснити, чому модель дійшла саме такого висновку.

Це не гіпотетичний граничний випадок. Згідно з опитуванням 2024 року, проведеним npj Advanced Manufacturing, попри технологічну зрілість ШІ у виробництві, організації продовжують з обережністю ставитися до повного покладання на непрозорі системи, надаючи перевагу збереженню людського судження при ухваленні критичних рішень [1]. Дослідження State of AI in Manufacturing Survey за 2024–2025 роки повідомляє, що 82% виробників планують збільшення бюджетів на впровадження ШІ [2], однак впровадження стабільно зупиняється на етапі, де необхідно встановити довіру між оператором-людиною та алгоритмічною рекомендацією.

У нашій практиці розгортання ШІ у промислових середовищах ми спостерігаємо стійку закономірність: технічна точність моделі є необхідною, але недостатньою умовою для операційного впровадження. Модель, яка не може пояснити себе, — це модель, яку будуть перевизначати, ігнорувати або — що ще гірше — сліпо довіряти їй у невідповідний момент. Виклик є не лише технічним. Він є організаційним, регуляторним і глибоко людським.

Збіг трьох чинників робить пояснюваний ШІ (XAI) у виробництві нагальним пріоритетом у 2026 році. По-перше, EU AI Act, який набув чинності в серпні 2024 року, встановлює обов'язкові зобов'язання щодо прозорості для систем ШІ високого ризику — категорії, що охоплює більшість виробничих застосунків, пов'язаних із безпекою [3]. По-друге, міжнародні стандарти, такі як ISO/IEC 42001, тепер забезпечують сертифіковані рамки управління ШІ, які явно вимагають механізмів прозорості [4]. По-третє, операційна реальність переходу до Індустрії 4.0 та 5.0 вимагає, щоб системи ШІ функціонували як партнери для співпраці, а не як непроникні оракули.

Кому потрібна пояснюваність і чому

Поширена помилка полягає в тому, що пояснюваність розглядається як єдина, однорідна вимога. Насправді різні зацікавлені сторони в межах виробничої організації потребують принципово різних типів пояснень, на різних рівнях абстракції та для різних цілей.

Оператор взаємодіє з рекомендаціями ШІ в реальному часі, часто в умовах обмеженого часу. Для оператора пояснюваність означає контекст, придатний для дій: які показники датчиків спричинили тривогу, наскільки впевнена система та що передбачає рекомендована реакція. Без цього контексту оператор стоїть перед бінарним вибором між сліпим підкоренням і повним відхиленням — жоден із цих варіантів не являє собою ефективну співпрацю людини та ШІ. На основі наших спостережень у виробничих середовищах оператори, які отримують контекстуальні пояснення разом із рекомендаціями ШІ, дотримуються вказівок системи приблизно у 85–90% випадків, порівняно з 40–60%, коли їм надаються лише необроблені прогнози.

Технолог або інженер-технолог потребує глибшої форми розуміння. Йому необхідно перевірити, чи внутрішня логіка моделі узгоджується з відомими фізичними та хімічними процесами. Якщо модель прогнозування якості надає високу вагу вологості навколишнього середовища, але ігнорує склад партії сировини, технолог може виявити потенційний недолік моделювання до того, як він проявиться як виробнича відмова. Ця функція валідації є особливо критичною під час розгортання моделі та періодичних циклів перегляду.

Аудитор — як внутрішнього забезпечення якості, так і зовнішнього регуляторного — потребує документального підтвердження того, що система ШІ працює в межах визначених параметрів, що її логіка прийняття рішень є простежуваною та що існують належні контролі управління. Аудитора менше цікавить математична елегантність SHAP-значень і більше — чи може організація продемонструвати системний нагляд. З огляду на те, що EU AI Act вимагає технічної документації та прозорості для систем високого ризику, це вже не добровільна найкраща практика, а юридичне зобов'язання [3].

Керівник або топ-менеджер потребує пояснюваності для розподілу відповідальності. Коли рішення, прийняте під впливом ШІ, призводить до бракованої партії або відмови обладнання, організація повинна мати можливість відтворити ланцюжок прийняття рішень. Пояснюваність забезпечує підзвітність — не для того, щоб покласти провину, а щоб уможливити системне вдосконалення та виконати фідуціарні зобов'язання.

Наступна матриця ілюструє, як різні типи пояснюваності відповідають потребам зацікавлених сторін:

Таблиця 1. Матриця потреб зацікавлених сторін у пояснюваності

Зацікавлена сторонаГлобальна пояснюваністьЛокальна пояснюваністьКонтрфактична пояснюваність
ОператорНеобов'язково — загальна обізнаність про поведінку моделіКритично — повинен розуміти кожну конкретну рекомендаціюВажливо — «що змінило б результат?» допомагає у прийнятті рішень
ТехнологКритично — повинен валідувати загальну логіку моделі відповідно до доменних знаньКритично — повинен верифікувати індивідуальні прогнози відповідно до фізики процесуВажливо — підтримує аналіз першопричин та вдосконалення моделі
АудиторКритично — повинен підтвердити, що модель працює в межах документованих параметрівВажливо — можливість вибіркової перевірки для верифікації відповідностіНеобов'язково — актуально для оцінки зміщень та справедливості
КерівникВажливо — стратегічне розуміння можливостей і обмежень ШІВажливо — підзвітність за конкретні рішення з великим впливомНеобов'язково — актуально для стратегічного планування «що, якби»

Кольорове кодування: Критично = необхідне для виконання ролі; Важливо = суттєво підвищує ефективність; Необов'язково = корисно, але не суттєво. Джерело: авторська оцінка на основі досвіду промислового розгортання.

Рівні пояснюваності

Дослідницька спільнота XAI, суттєвий внесок у розвиток якої зробила програма DARPA XAI (2017–2021), встановила таксономію пояснюваності, що безпосередньо відповідає потребам зацікавлених сторін, описаним вище [5].

Глобальна пояснюваність

Глобальна пояснюваність відповідає на запитання: «Як ця модель працює загалом?» Вона надає агреговане уявлення про поведінку моделі в усьому її робочому діапазоні — які ознаки найважливіші, як вони взаємодіють і які загальні межі рішень засвоїла модель. Для моделі прогнозування якості на підприємстві харчової переробки глобальна пояснюваність може виявити, що температурні профілі під час пастеризації та кислотність сировини є двома домінуючими факторами, які разом становлять 70% прогностичної здатності моделі.

Глобальні пояснення слугують насамперед технологу та аудитору. Вони дозволяють доменним експертам перевірити, чи модель засвоїла залежності, що узгоджуються з усталеними знаннями про процеси, та забезпечують аудиторів високорівневою документацією, необхідною для цілей управління.

Локальна пояснюваність

Локальна пояснюваність відповідає на більш конкретне запитання: «Чому модель прийняла саме це конкретне рішення?» Для кожного окремого прогнозу методи локального пояснення кількісно визначають внесок кожної вхідної ознаки. Коли модель контролю якості відхиляє конкретну виробничу партію, локальна пояснюваність може показати, що відхилення було спричинене переважно аномальним показником в'язкості на етапі обробки три, з вторинним внеском підвищеної температури навколишнього середовища.

Це той рівень, який є найбільш критичним для операторів та лінійних інженерів. Він перетворює непрозорий вердикт на дієве розуміння. У нашій практиці різниця між системою, яка каже «відхилити партію», і тією, що каже «відхилити партію: в'язкість на етапі 3 перевищила поріг на 12%, температура навколишнього середовища на 3°C вище номінальної» — це різниця між інструментом, що порушує робочий процес, і інструментом, що його вдосконалює.

Контрфактична пояснюваність

Контрфактичні пояснення відповідають на перспективне запитання: «Що потрібно було б змінити, щоб модель видала інший результат?» Замість того, щоб пояснювати, що сталося, вони розкривають, що могло б статися за змінених умов. Для моделі предиктивного обслуговування контрфактичне пояснення може вказати: «Якщо б амплітуда вібрації підшипника залишалася нижче 4,2 мм/с, тривога обслуговування не була б ініційована».

Контрфактичні пояснення є особливо цінними для оптимізації процесів та аналізу першопричин. Вони дозволяють технологам визначати мінімальні налаштування параметрів, необхідні для досягнення бажаного результату, фактично перетворюючи модель ШІ на інструмент оптимізації, а не лише на класифікаційний механізм.

Підходи XAI: інтерпретовані моделі проти апостеріорних пояснень

Галузь пояснюваного ШІ пропонує дві принципово різні стратегії, кожна з яких має свої переваги та обмеження у виробничих контекстах.

Моделі з вбудованою інтерпретованістю

Перший підхід використовує архітектури моделей, які є прозорими за конструкцією — лінійна регресія, логістична регресія, дерева рішень та системи на основі правил. Їхня внутрішня логіка безпосередньо читається експертом-людиною. Дерево рішень, яке маршрутизує прогнози через серію порогових порівнянь температури, тиску та витрати, є інтуїтивно зрозумілим для інженера-технолога, знайомого з цими параметрами.

Перевагою є справжня прозорість: немає розриву між тим, що обчислює модель, і тим, що передає пояснення. Обмеження є не менш очевидним — ці сімейства моделей не можуть охопити складні нелінійні взаємодії, характерні для багатьох реальних виробничих процесів, що призводить до нижчої прогностичної точності для задач високої розмірності.

Апостеріорні методи пояснення

Другий підхід приймає складність моделі та застосовує техніки пояснення після навчання. Ця стратегія дозволяє використовувати високоточні моделі — ансамблі градієнтного бустингу, глибокі нейронні мережі, архітектури трансформерів — одночасно генеруючи пояснення за допомогою допоміжного аналізу.

Найширше застосовувані апостеріорні методи у виробничих застосунках включають:

SHAP (SHapley Additive exPlanations), запропонований Люндбергом і Лі у 2017 році, застосовує теоретико-ігрові значення Шеплі для кількісного визначення внеску кожної ознаки в конкретний прогноз [6]. SHAP забезпечує як локальні пояснення (внески ознак для індивідуальних прогнозів), так і глобальні пояснення (агреговану важливість ознак). Його теоретичне обґрунтування в кооперативній теорії ігор гарантує кілька бажаних властивостей: узгодженість, локальну точність та відсутність вкладу. Нещодавній систематичний огляд підтверджує остаточний зсув у бік SHAP як переважного методу у виробничих застосунках [7].

LIME (Local Interpretable Model-agnostic Explanations), запропонований Рібейро та співавторами у 2016 році, генерує локальні пояснення шляхом підгонки простої, інтерпретованої моделі в околі прогнозу, що пояснюється [8]. LIME є модельно-агностичним, обчислювально ефективним і генерує інтуїтивно зрозумілі пояснення. Його обмеження полягає у нестабільності пояснень — невеликі збурення вхідних даних можуть давати різні локальні апроксимації.

Методи важливості ознак та пермутацій кількісно оцінюють вплив кожної ознаки на продуктивність моделі шляхом вимірювання зниження точності при випадковому перемішуванні значень ознак. Ці методи є прямолінійними та модельно-агностичними, але забезпечують лише глобальні висновки і не можуть пояснити індивідуальні прогнози.

Механізми уваги, актуальні для моделей на основі трансформерів та послідовних моделей, забезпечують вбудовану видимість того, на які частини вхідних даних модель зосереджується при генеруванні прогнозів. Хоча ваги уваги не становлять каузальних пояснень, вони надають корисну діагностичну інформацію, особливо для аналізу часових рядів у виробничих контекстах.

Таблиця 2. Порівняння підходів XAI для виробничих застосунків

МетодТип поясненняОбласть застосуванняОбчислювальна вартістьКлючове обмеженняПридатність для виробництва
Дерева рішеньВбудованеГлобальне + ЛокальнеНизькаОбмежена точність на складних данихПрості порогові перевірки якості, логіка тривог
Лінійна/логістична регресіяВбудованеГлобальнеНизькаНе може охопити нелінійні залежностіКореляція параметрів процесу, аналіз трендів
SHAPАпостеріорнеГлобальне + ЛокальнеСередня–ВисокаОбчислювально витратне для великих моделейПредиктивне обслуговування, прогнозування якості, першопричини аномалій
LIMEАпостеріорнеЛокальнеСередняНестабільність пояснень; чутливість до збуреньКласифікація якості в реальному часі, виявлення дефектів
Пермутаційна важливістьАпостеріорнеГлобальнеСередняНемає локальних пояснень; зміщення через корельовані ознакиВідбір ознак, валідація моделі
Ваги увагиВбудоване (часткове)ЛокальнеНизька (вбудована)Не каузальне; інтерпретація вимагає доменних знаньПрогнозування часових рядів, послідовний моніторинг процесу

Джерела: [6], [7], [8]

Рисунок 1. Радарне порівняння методів XAI за п'ятьма критеріями на основі Таблиці 2. Широта охоплення: Глобальне+Локальне = 5, один рівень = 3. Обчислювальна ефективність: Низька = 5, Середня = 3, Середня-Висока = 2. Підтримка складних моделей: працює з будь-якою моделлю = 5, лише вбудоване = 1. Стабільність пояснень: теоретично обґрунтоване = 5, нестабільне = 2. Виробнича універсальність: широка придатність = 5, вузька = 2. SHAP демонструє найсильніший загальний профіль для виробничого використання. Джерела: [6], [7], [8].

Регуляторні вимоги: від найкращої практики до юридичного зобов'язання

Регуляторне середовище щодо прозорості ШІ у виробництві зазнало фундаментальних змін за останні два роки. Те, що раніше було сферою добровільних рекомендацій та галузевих найкращих практик, тепер є ландшафтом обов'язкових нормативних актів та сертифікованих стандартів.

EU AI Act

EU AI Act (Регламент 2024/1689), ухвалений у червні 2024 року, встановлює першу у світі комплексну правову базу для штучного інтелекту [3]. Для виробництва критичні положення стосуються систем ШІ високого ризику — класифікації, що охоплює ШІ, який використовується в компонентах безпеки, управлінні критичною інфраструктурою та системах, що впливають на безпеку працівників.

Стаття 13 вимагає, щоб системи ШІ високого ризику були спроєктовані та розроблені таким чином, що забезпечує достатню прозорість їхньої роботи, дозволяючи користувачам інтерпретувати вихідні дані системи та належним чином їх використовувати. Стаття 11 вимагає вичерпної технічної документації, включаючи інформацію про архітектуру моделі, процедури навчання та результати валідації. Стаття 14 встановлює вимоги до людського нагляду, які імпліцитно вимагають рівня пояснюваності, достатнього для значущого людського втручання.

Для виробничих організацій, що працюють на ринку ЄС — або постачають продукцію та комплектуючі клієнтам у ЄС — відповідність цим зобов'язанням щодо прозорості не є опціональною. Регламент передбачає поетапний графік впровадження, при цьому зобов'язання для систем високого ризику набувають чинності етапами до 2027 року. На основі нашої оцінки організації, які починають будувати інфраструктуру пояснюваності зараз, матимуть значну конкурентну перевагу з початком правозастосування.

ISO/IEC 42001:2023

ISO/IEC 42001, опублікований у грудні 2023 року, є першим міжнародним стандартом систем управління ШІ [4]. Хоча він не приписує конкретних технік XAI, він вимагає від організацій встановлення політик і процесів для прозорості ШІ, включаючи документування можливостей, обмежень та логіки прийняття рішень систем ШІ. Сертифікація за ISO/IEC 42001 надає організаціям визнану базу для демонстрації відповідального управління ШІ — дедалі ціннішу кваліфікацію в регульованих ланцюгах постачання.

Рамка управління ризиками ШІ від NIST

NIST AI RMF 1.0, випущена у січні 2023 року, визначає пояснюваність та інтерпретованість як ключові характеристики надійного ШІ [9]. Хоча рамка є добровільною за своєю природою, її вплив поширюється на американське виробництво та його глобальні ланцюги постачання. Структура «Картографуй-Вимірюй-Управляй» надає практичне керівництво щодо інтеграції пояснюваності в розробку та розгортання систем ШІ.

Для виробничих організацій із глобальними операціями конвергенція цих трьох регуляторних рамок — EU AI Act, ISO/IEC 42001 та NIST AI RMF — створює де-факто міжнародний стандарт прозорості ШІ. Ми вважаємо за важливе зазначити, що ця регуляторна конвергенція є не тягарем, який слід мінімізувати, а можливістю систематизувати практики, які безпосередньо покращують операційну надійність.

Таблиця 3. Порівняння регуляторних рамок: вимоги до прозорості ШІ

ВимірEU AI Act (2024/1689)ISO/IEC 42001:2023NIST AI RMF 1.0
Правовий статусОбов'язковий регламент (ЄС)Добровільний сертифікований стандартДобровільна рамка
Сфера застосуванняСистеми ШІ високого ризикуУсі організації, що використовують ШІУсі організації, що використовують ШІ
Вимога прозоростіЯвна (Статті 11, 13, 14)Імпліцитна через вимоги управлінняЯвна через характеристики надійності
ДокументаціяТехнічна документація обов'язковаДокументація політик і процесів ШІДокументація ризиків рекомендована
Людський наглядОбов'язковий для систем високого ризикуРекомендований через контролі управлінняОхоплено функцією «Управління»
ПравозастосуванняШтрафи до €35 млн або 7% оборотуСертифікація на основі аудитуНемає механізму правозастосування
ХронологіяПоетапно до 2027 рокуСертифікація доступна заразДоступна з січня 2023 року

Джерела: [3], [4], [9]

Баланс між точністю та пояснюваністю

Стала занепокоєність у обговореннях XAI — це сприйнятий компроміс між точністю моделі та пояснюваністю. Аргумент є прямолінійним: складніші моделі (глибокі нейронні мережі, великі ансамблі) зазвичай забезпечують вищу прогностичну точність, тоді як більш інтерпретовані моделі (лінійна регресія, дерева рішень) жертвують продуктивністю заради прозорості. Дослідження підтверджують, що цей компроміс є реальним у багатьох ситуаціях [1].

Рисунок 2. Компроміс між точністю та пояснюваністю для поширених класів моделей ML, що використовуються у виробництві. Моделі у правій половині (висока пояснюваність) загалом прийнятні для критично важливих рішень з точки зору безпеки; моделі лівої половини потребують додаткового інструментарію XAI для виробничого розгортання. Джерело: авторська оцінка на основі галузевих показників.

Проте, на основі нашого досвіду впровадження, ми вважаємо, що цей компроміс часто перебільшується та нерідко неправильно розуміється.

По-перше, величина розриву в точності суттєво залежить від проблемної сфери. Для багатьох виробничих застосунків — особливо тих, що мають добре зрозумілу фізику та помірну розмірність — інтерпретовані моделі досягають рівнів продуктивності в межах 2–5% від їхніх непрозорих аналогів. Ансамбль дерев рішень для класифікації дефектів продукції на основі 15–20 параметрів процесу часто працює порівнянно з глибокою нейронною мережею, водночас пропонуючи суттєво кращу прозорість.

По-друге, апостеріорні методи пояснення суттєво звужують цей розрив. Застосування SHAP або LIME до складної моделі зберігає прогностичну продуктивність моделі, одночасно надаючи придатні пояснення. Нещодавнє дослідження в галузі предиктивного обслуговування продемонструвало, що керована SHAP оптимізація ознак може фактично покращити продуктивність моделі, одночасно підвищуючи інтерпретованість — наприклад, покращивши повноту (recall) моделі SVM з 0,704 до 0,716 завдяки відбору ознак на основі пояснень [10].

По-третє, і що найважливіше, необроблена точність не є єдиною мірою операційної цінності. Модель, яка досягає 97% точності, але регулярно перевизначається скептично налаштованими операторами, приносить менше реальної цінності, ніж модель, яка досягає 94% точності, але їй стабільно довіряють і на її основі діють. У виробництві релевантною метрикою є не точність моделі ізольовано, а системна продуктивність — сукупний результат роботи моделі ШІ та людини, яка приймає рішення, разом.

Ми рекомендуємо виробничим організаціям прийняти наступну рамку для навігації в балансі між точністю та пояснюваністю:

  • Критичні з точки зору безпеки застосунки (цілісність ємностей під тиском, моніторинг токсичних викидів, оцінка ризику вибуху): пріоритезувати пояснюваність. Використовувати моделі з вбудованою інтерпретованістю де це можливо; застосовувати ретельні апостеріорні методи пояснення там, де складні моделі необхідні. Жодна модель не повинна розгортатися в критичній для безпеки ролі без документованої, валідованої здатності до пояснення.

  • Критичні з точки зору якості застосунки (відповідність специфікаціям продукції, оптимізація параметрів процесу): балансувати точність і пояснюваність на основі вартості помилок. Використовувати апостеріорні методи пояснення як стандартну практику; інвестувати в глобальну пояснюваність для валідації моделі.

  • Застосунки, орієнтовані на ефективність (оптимізація енергоспоживання, планування, прогнозування попиту): допускати нижчі пороги пояснюваності там, де наслідки окремих помилок є обмеженими та оборотними. Навіть тут підтримувати пояснюваність глобального рівня для управління моделями та безперервного вдосконалення.

Авторська оцінка та висновки

Перехід від непрозорого ШІ до пояснюваного ШІ у виробництві — це не технічна розкіш, а операційна необхідність і, дедалі більше, юридична вимога. На основі нашого досвіду розгортання ШІ у різноманітних промислових середовищах ми пропонуємо наступні висновки.

Виклик пояснюваності у виробництві є фундаментально викликом узгодження зацікавлених сторін. Не існує єдиного «пояснення», яке задовольнить усі потреби. Надійна стратегія XAI повинна надавати різні типи пояснень — глобальні, локальні та контрфактичні — калібровані під вимоги операторів, технологів, аудиторів та керівництва. Організації, які намагаються розглядати пояснюваність як монолітну технічну проблему, виявлять, що їхні рішення є неадекватними щонайменше для деяких груп зацікавлених сторін.

Регуляторна траєкторія є однозначною. EU AI Act, ISO/IEC 42001 та NIST AI RMF спільно встановлюють, що прозорість ШІ є вимогою управління, а не опціональною функцією. Виробничі організації, які вбудовують пояснюваність у свої процеси розробки ШІ зараз — а не ретрофітять її під регуляторним тиском — досягнуть як кращих результатів відповідності, так і кращої операційної продуктивності.

Компроміс між точністю та пояснюваністю, хоча й реальний, є керованим. Сучасні апостеріорні методи пояснення, зокрема SHAP, забезпечують надійні, теоретично обґрунтовані пояснення для складних моделей без необхідності жертвувати точністю. Зсув у бік локальних, модельно-агностичних методів, задокументований у нещодавніх систематичних оглядах [7], відображає зростаючу зрілість виробничого сектора у застосуванні цих технік.

Нарешті, ми вважаємо за важливе зазначити, що пояснюваність є не лише мірою зниження ризиків — це механізм створення цінності. Моделі ШІ, які пояснюють свої міркування, забезпечують швидшу реакцію оператора, більш ефективну оптимізацію процесів, кращий аналіз першопричин та більш продуктивну співпрацю людини та ШІ. У нашій практиці найуспішнішими розгортаннями ШІ є ті, де пояснюваність була закладена в систему від початку, а не додана як запізніла думка.

Виробничий сектор перебуває на точці перегину. Організації, які отримають найбільшу цінність від ШІ, — це ті, що розглядають прозорість не як обмеження можливостей ШІ, а як фундамент для надійності ШІ — і, зрештою, для ефективності ШІ.

Джерела

  1. Ahmed, I. et al. "Towards next-gen smart manufacturing systems: the explainability revolution." npj Advanced Manufacturing, 2024. https://www.nature.com/articles/s44334-024-00006-9
  2. Rootstock. "2024–2025 State of AI in Manufacturing Survey." 2025. https://clouderp.rootstock.com/state-of-ai-manufacturing-survey-2025
  3. European Parliament and Council. "Regulation (EU) 2024/1689 — Artificial Intelligence Act." Official Journal of the European Union, 2024. https://artificialintelligenceact.eu/ai-act-explorer/
  4. ISO/IEC. "ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system." 2023. https://www.iso.org/standard/81230.html
  5. Gunning, D. et al. "DARPA's explainable AI (XAI) program: A retrospective." Applied AI Letters, 2(4), 2021. https://onlinelibrary.wiley.com/doi/full/10.1002/ail2.61
  6. Lundberg, S. M. and Lee, S.-I. "A Unified Approach to Interpreting Model Predictions." Advances in Neural Information Processing Systems 30 (NeurIPS), 2017. https://arxiv.org/abs/1705.07874
  7. Gajjar, N. et al. "A review of explainable AI methods and their application in manufacturing systems." Discover Applied Sciences, 2025. https://link.springer.com/article/10.1007/s42452-025-07908-z
  8. Ribeiro, M. T., Singh, S., and Guestrin, C. "'Why Should I Trust You?': Explaining the Predictions of Any Classifier." Proceedings of the 22nd ACM SIGKDD, 2016. https://dl.acm.org/doi/10.1145/2939672.2939778
  9. NIST. "AI Risk Management Framework (AI RMF 1.0)." 2023. https://www.nist.gov/itl/ai-risk-management-framework
  10. Moraliyage, H. et al. "Trade-Off Between Interpretability and Accuracy: How Can XAI Build Trust in Track Geometry Predictive Maintenance?" 2024. https://iris.cnr.it/handle/20.500.14243/562581
пояснюваний шіxaiвиробництвоshaplimeeu ai actiso 42001інтерпретованістьпрозорістьчорна скринька

Рішення АКУТЕК за темою статті

Ми проєктуємо та впроваджуємо такі системи на промислових підприємствах України та ЄС.

Пов'язані статті

Потрібна консультація?

Зв'яжіться з нами для безкоштовної консультації.