Конспект з події Глобального договору ООН в Україні

Нині здається, що штучний інтелект здатен на все: AI вміє аналізувати поведінку клієнтів і вже скоро він буде створювати рекламні кампанії за вас.  

А також може помилково блокувати транзакції ваших клієнтів та дискримінувати за ознакою статі, бо досі невирішеним залишається питання його прозорості та упередженості.

Як бути з етичними дилемами ШІ та балансувати між інноваціями та відповідальністю? Як регулюють штучний інтелект в Європі та які рішення знаходять українські компанії вже зараз?

Своїм досвідом поділилися експерти з Intellias, EPAM, Juscutum та Київстар під час події «AI-Driven, Human-Centered: нова ера бізнесу».

AI на службі людству, а не навпаки

Британська фінтех-компанія використовувала AI для виявлення шахрайства, однак через непрозорий алгоритм система помилково блокувала звичайні транзакції клієнтів. 

Це призводило до необґрунтованого замороження рахунків без пояснень, що порушує права споживачів і принципи прозорості в AI-рішеннях.

 

«AI у фінансовому секторі має бути точним і прозорим. Клієнт має розуміти, як ухвалюється рішення та мати право його оскаржити»

— Петро Білик, партнер практики технологій та інвестицій, керівник практики AI, Juscutum

Інший кейс, який варто додати в Lessons Learned: компанія впровадила AI-систему для відбору резюме, але алгоритм, навчений на упереджених історичних даних, почав дискримінувати кандидаток-жінок.

Це призвело до систематичної гендерної упередженості в наймі та порушенні трудового законодавства.

Обачним має бути й бізнес

Онлайн-платформа нерухомості закрила цілий відділ і скоротила 25% своїх працівників після фінансової катастрофи. Це сталося внаслідок помилки AI, на який покладався бізнес.

Про кейс розповідає Олег Цаль-Цалько, старший архітектор компанії EPAM:

Компанія придбала тисячі будинків на основі рекомендацій алгоритму штучного інтелекту, який неправильно оцінив вартість будинків і погано передбачив коливання ринку нерухомості.

Правильно казати «відповідальний ШІ», а не «безпечний ШІ». Ми не можемо створити штучний інтелект, який буде на 100% безпечним — як і жоден інший інструмент, він завжди матиме ризики. Тому важливо говорити не про «безпечний ШІ», а саме про відповідальний. Відповідальність за його дії несе не сам алгоритм, а люди: ті, хто його створюють, застосовують і регулюють. 

— Олег Цаль-Цалько, старший архітектор компанії EPAM

Як з цим боротися? 

Відповідь — регулювання. Прийнятий в Європі AI Act вже регулює розробку й використання систем штучного інтелекту на основі рівня ризику, який вони несуть для людей і суспільства. Він стосується всіх компаній, які працюють на ринку ЄС, незалежно від країни походження.

Акт також передбачає суворі санкції: до 7% глобального обороту або 35 млн євро за використання заборонених систем і до 3% обороту або 15 млн євро  за порушення інших вимог.

Які є ще політики та рамки використання ШІ?

• Принципи ОЕСР щодо ШІ
• Рекомендаційні але впливові міжнародні принципи, розроблені Організацією економічного співробітництва та розвитку.
• Принципи визначають етичні орієнтири для розробки та впровадження ШІ-інструментів.
• Біла книга зі штучного інтелекту у Великій Британії.
  

Та хто стоїть за цими правилами та намаганнями приборкати неконтрольоване користування технологією? Фахівці. 

Тетяна Кирик, директор з комплаєнс та етики Київстар радить компаніям не зупинятися на розробці етичних політик, а думати про залучення та виховання спеціалістів, які матимуть достатньо експертизи, щоб мінімізувати ризики.

Не Chat GPT єдиним — як в Intellias створили власний штучний інтелект

Intellias створили ШІ, що не просто відповідає на запити, а стає цифровим колегою з людським підходом — він вміє генерувати контент, писати код, а також автоматично інформує та збирає дані про безпеку працівників під час надзвичайних ситуацій. Наприклад, після ракетних атак.

Одна з важливих функцій бота — Emergency Alert Tool. Його головна мета — швидко та зручно отримати дані про стан спеціалістів із турботою про їхню безпеку.

У разі ракетної атаки чи іншої екстреної події бот автоматично надсилає повідомлення працівникам, які перебувають у зоні ризику. Спеціалісти мають обрати одну з двох відповідей:

• I’m safe — якщо людина не постраждала, перебуває у відносній безпеці й може продовжувати працювати;
• I need help — якщо спеціаліст, його родина чи житло постраждали, і він не може працювати без зовнішньої підтримки.

Під час ракетних обстрілів в Україні, 84% колег відповідають боту про свій статус. Це понад 1000 взаємодій з ботом в день екстрених ситуацій.

Це рішення дозволяє компанії оперативно реагувати на кризові ситуації, надавати допомогу тим, хто її потребує, та підтримувати зв’язок із командою навіть у найскладніших умовах.

На що звернути увагу бізнесу вже сьогодні?

Цього року Глобальний договір ООН в Україні провів опитування серед українського бізнесу щодо того, як саме компанії використовують штучний інтелект у своїй роботі. 

Основна мета — зрозуміти, наскільки етичні, правові та комплаєнс-аспекти впровадження ШІ є пріоритетом, а також — яких знань і ресурсів потребує бізнес, щоб діяти відповідально.

Опитування показало:

• менш ніж половина респондентів проходили навчання щодо етичного використання ШІ.
• лише поодинокі компанії проводять системну оцінку впливу впроваджених ШІ-рішень на права людини;
• деякі компанії вже включають етичні принципи ШІ до ширших політик з прав людини або кібербезпеки. 

Тобто, значна частина фахівців працює з ШІ без достатніх знань про їх потенційний вплив на права людини, упередження чи дискримінацію. Це означає, що компанії не мають повної картини ризиків і можуть несвідомо допустити витік конфіденційної або чутливої інформації про свою компанію та/або клієнтів.

Висновки

Хоча загроза ШІ здається не очевидною, вона може стати реальністю в межах кількох років. Якщо не почати розробку й дотримання чітких правил, стандартів і механізмів контролю вже зараз, можливості ШІ можуть бути використані проти нас.

Більшість учасників інтерактивної сесії, яку провів Глобальний договір ООН в Україні під час заходу «AI-Driven, Human-Centered: нова ера бізнесу» зазначали, що серед основних викликів, з якими стикаються їх компанії при інтеграції ШІ в робочі процеси є, зокрема: 

• ризики витоку та непрозорої обробки їх даних штучним інтелектом;
• відсутність достатньої кількості фахівців, які можуть опікуватися розробкою безпечних інструментів ШІ;
• обмежене використання ШІ через недовіру (адже більшість процесів можуть працювати з чутливою інформацією компаній та клієнтів)
  

Ці виклики ще раз підкреслюють: розвиток ШІ має йти поруч із розвитком етики, прозорості та освіти. Без цього ми ризикуємо втратити контроль та довіру до технології.

Поширити новину: