Чи врятує світ від SkyNet Artificial Intelligence Act, прийнятий у Європейському Союзі? Ні, оскільки SkyNet скоріше запустять американці або китайці, які значно більш байдужі до регулювання використання штучного інтелекту, ніж ЄС. Більше того, Artificial Intelligence Act стосується в першу чергу цивільних, а не військових. І для цивільних тут є штрафи в десятках мільйонів доларів…
Чому треба готуватися до величезних штрафів
Так, практика покарань бізнесу в Європейському Союзі справді демонструє, що їм неважко накласти багатомільйонний штраф на тих, хто не дуже чемний з громадянами ЄС. Зараз пропонується відповідальність для багатьох учасників ринку.
- Наприклад, штраф розмірі до 35 мільйонів євро або, якщо порушником є підприємство, або до 7 % його загального світового річного обороту за попередній фінансовий рік, залежно від того, що вище, за недотримання заборони на певні види використання ШІ (до цього повернемося пізніше).
- Порушення імпортерів, дистриб’юторів та уповноважених представників тягтиме штраф усього 15 мільйонів євро або, якщо порушником є підприємство, або до 3 % від її загальної суми світового річного обороту за попередній фінансовий рік, залежно від того, що вище.
- Надання невірної, неповної або оманливої інформації уповноваженим органам у відповідь на запит матимуть наслідком штраф до 7,5 мільйонів євро або, якщо порушником є підприємство, до 1 % від його загальної суми світового річного обороту за попередній фінансовий рік, залежно від того, що вище. Цю частину, про ненадання відповіді або неповної відповідь на запит я особливо люблю, оскільки у нас в країні через беззубість контролюючих органів дуже популярно просто ігнорувати їх запити.
В яких випадках заборонено використовувати ШІ
Разом з тим Європейський Союз декларує своє прагнення стати лідером в галузі штучного інтелекту. Штрафи та регулювання запроваджуються для того, аби розробники ШІ були обережними і не завдали шкоди громадянам.
Так, ЄС запроваджує розподіл ШІ-продуктів за групами. Неприйнятний, високоризиковий та обмеженоризиковий.
1. Повністю заборонено використання штучного інтелекту, який застосовує підсвідомі техніки поза свідомістю людини або цілеспрямовано маніпулятивні техніки, або оманливі методи з метою або матеріальним ефектом спотворення поведінки особи або групи осіб шляхом істотного ушкодження їхньої здатності приймати обґрунтоване рішення, що спонукає їх прийняти рішення, яке вони інакше не прийняли б у спосіб, який є розумним та може завдати цій особі, іншій особі чи групі осіб істотної шкоди. Не знаю чи це зрозуміло, але суть така, що не можна маніпулювати підсвідомістю на шкоду людині.
2. Заборонено зловживання вразливістю людей через вік, наявність інвалідності, економічну чи соціальну ситуацію, приналежність людини до певної групи. Також не можна випускати в світ ШІ, який оцінює або класифікує фізичних осіб або груп осіб на основі їхньої соціальної поведінки або відомого, припущення чи передбачення особисті або особистісні характеристики, при чому соціальна оцінка веде до шкідливого або несприятливого ставлення до певних фізичних осіб або груп осіб у соціальних контекстах.
3. Типу загалом збирати інфу звісно можна, але використовувати її в шкідливих цілях – ніт. Мимоволі пригадується історія творця трьох законів робототехніки Азімова, в якій робот все ж вбиває людину за рахунок розподілу стадій убивства таким чином, щоб кожен з роботів-учасників не знав про наявність інших складових.
4. Заборонено використання ШІ для прогнозування можливого вчинення злочинів на основі профілювання фізичної особи або оцінки її особистісних якостей і характеристик. Тут законодавець намагається нас убезпечити від сценаріїв описаних у фільмі Minority Report та останнього сезону Western World. Суспільство та бізнес не мають права карати в будь-який спосіб (зокрема, наприклад, обмежуючи доступ до благ чи можливостей) людину на основі припущення (хай би яким раціональним воно не було) про ймовірну схильність людини до вчинення злочину. Тут є виключення, якщо система робитиме висновки на вже наявних фактах з кримінальної діяльності. Не дуже розумію, чому це не дискримінація осіб, які вже притягалися до відповідальності, але це питання окремої розмови.
5. Заборонено випуск в світ систем ШІ, які створюють або розширюють бази даних розпізнавання облич за допомогою нецілеспрямованого копіювання зображень обличчя з Інтернету або запису камер відеоспостереження. Тобто не можна накачати фоточок з Інету, створити базу з них та вираховувати вас у натовпі. Наприклад, щоб зайшовши в супермаркет, вас відразу впізнали і почали підсовувати товари, які ви проглядали в гуглі.
6. Також заборонено запускати ШІ для визначення емоцій фізичної особи на робочому місці та в навчальні заклади, за винятком випадків, коли це робиться з медичних міркувань або причин безпеки. Не допускаються ШІ, які будуть здійснювати використання біометричних систем категоризації, які класифікують окремих фізичних осіб на основі їхніх біометричних даних можна зробити висновок про їхню расу, політичні погляди, професію членство в профспілці, релігійні або філософські переконання, статеве життя або секс. Тут теж нікому нічого не можна, крім правоохоронців, яким трохи таки буде можна. Це я до того, що подібні проєкти, орієнтовані на клієнта-правоохоронну систему, все ж мають право на життя.
7. Заборонено використання систем дистанційної біометричної ідентифікації «в реальному часі» у загальнодоступних місцях місця для цілей правоохоронних органів, якщо таке використання не є суворо необхідним для однієї з наступних цілей:
- цілеспрямований пошук конкретних жертв викрадення, торгівлі людьми або сексуальної експлуатації людей, а також розшук зниклих безвісти;
- запобігання конкретній, істотній і безпосередній загрозі життю або фізична безпека фізичних осіб або реальна передбачувана загроза терористичного нападу;
- визначення місця розташування або ідентифікація особи, підозрюваної у скоєнні кримінального правопорушення, з метою проведення кримінального розслідування або притягнення до відповідальності або виконання кримінального покарання за правопорушення за яке передбачено позбавлення волі на максимальний термін не менше чотирьох років.
Далі йде ще більш істотна деталізація умов використання таких систем (настільки потужна, що про це можна писати окрему статтю), але ми зараз це опустимо. Загалом робота з правоохоронцями буде чи не найцікавішою. Дуже круто треба буде працювати, щоб і отримувати якісні результати, і не порушувати законодавство. А як такі системи тестувати?
Заборона описаних вище систем набуде чинності вже в листопаді цього року.
Чому важливо аналізувати високоризиковані системи ШІ
Окрім неприйнятних є ще й ризикові системи штучного інтелекту. Зазначається, що високоризикові системи штучного інтелекту включають, наприклад, системи ШІ, які оцінюють, чи може хтось отримати певне лікування, отримати певну роботу чи позику на купівлю квартири. Системи ШІ, які використовуються поліцією для профілювання людей або оцінки ризику вчинення ними злочину, якщо вони не належать до заборонених. Також це можуть бути системи штучного інтелекту, що керують роботами, дронами чи медичними пристроями.
Окрім того, до таких високоризикових систем належать ті, що оцінюють чи можете ви вступити до навчального закладу, чи брати вас на роботу, чи підвищувати вас. Ця ніша очевидно дуже цікава. Тут явно мають місце дискримінаційні ризики, викликані навчанням ШІ на основі попереднього досвіду. Адже людям, як показує досвід, властива несвідома дискримінація. Тому розробники будуть зобов’язані застосовувати системи управління ризиками при розробці та застосування ШІ-продуктів. Проте запровадження обов’язкового регулювання в цій частині відтерміновано до 2027 року. Тож є трохи часу для захоплення ринку та налагодження комплаєнс-процедур.
Загалом ЄС не вимагає нічого надзвичайного. Він прагне захистити своїх громадян. Як показує досвід, це робиться вперто та цілеспрямовано. Гадаю, що всім великим та малим гравцям на цьому ринку доведеться уважно прочитати Artificial Intelligence Act.
