Европейският съюз забранява изкуствен интелект, който влияе върху подсъзнанието

Европейският съюз пръв в света приема закон за регулиране на системите за изкуствен интелект и защита на гражданите, съобщават световните агенции. С мнозинство законопроектът беше приет от Европейския парламент вчера, 14 юни. Предстои да го гласуват също Европейската комисия и Съветът на Европа. Очаква се законът да влезе в сила не по-рано от 2025 г.

В закона системите за изкуствен интелект са разделени на групи според степента на риска, който носят за европейските граждани и потребители. За всяка група са предвидени различни ограничения и мерки за контрол.

Изцяло ще бъдат забранени системи за изкуствен интелект, които влияят върху подсъзнанието на хората, а също и системи за биометрично разпознаване в реално време.

Системи, които създават съдържание – като ChatGPT например, ще бъдат длъжни да маркират ясно своята продукция и да не я представят за човешко творчество.

„Депутатите от Европарламента искат да гарантират, че системите за изкуствен интелект ще бъдат изцяло контролирани от хората, ще бъдат безопасни, прозрачни, лесни за проследяване, няма да дискриминират потребителите и ще помагат за защита на околната среда“, се казва в обясненията на пресслужбата на ЕП към проектозакона.

В дебатите около документа депутатите обърнаха внимание най-вече на системите за разпознаване на лица. Проектозаконът предлага да се разреши използването на такива системи „постфактум“, а не в режим на реално време, при това само за разпознаване на престъпници, терористи и изчезнали хора – винаги след решение на съда.

Повече евродепутати са съгласни с такова решение, но някои от тях искат и пълна забрана на системата за разпознаване на лица. Представителят на Пиратската партия от Германия Патрик Брайер например заяви, че с позволението да се разпознават лица от изкуствен интелект има риск Европа да се превърне в полицейска държава като Китай. Той посочи факта, че подобни системи грешат в 99% от случаите и се стига до задържане на невинни хора.

Според заместник-председателката на Еврокомисията Маргрете Вестагер, която отговаря за антимонополната политика, един от най-важните проблеми, свързани с развитието на изкуствения интелект, е дискриминацията. Пред Би Би Си Вестагер е заявила, че преднамереността и дискриминацията може да са заложени в огромния обем данни, получавани от интернет и използвани за обучение на AI.

„Ако банка използва изкуствен интелект, за да вземе решение дали да получите кредит, трябва да бъдем сигурни, че това няма да доведе до дискриминация по пол, цвят на кожата или местожителство“, уточнява тя.

Четирите групи, в които са класифицирани системите за изкуствен интелект, са според нивата на риска.

В групата „неприемлив риск“ са включени: системи за въздействие върху подсъзнанието на хората; системи за социален рейтинг, разделящи хората на категории според поведението, социалноикономическото им положение и други лични характеристики; системи за разпознаване в режим на реално време.

В групата „висок риск“ са попаднали: системи, използвани в стоки, които трябва да бъдат лицензирани с цел защита на потребителите – играчки, автомобили, авиация, медицинска апаратура; системи за управление на критично важна инфраструктура; системи, използвани в образователни институции или при работа с персонал; системи, използвани в правоохранителни органи, при работа с мигранти и бежанци и при охрана на границите. Системите с висок риск ще се оценяват преди включването им и докато работят и ще бъдат регистрирани в специална база данни на Европейския съюз.

Третата група е за „системи, генериращи съдържание“, където попадат всички форми на изкуствен интелект, които създават творчески продукти. Създателите им ще бъдат длъжни: да маркират създаденото съдържание; да ги програмират така, че да не създават противозаконно съдържание; да публикуват списъците с данни, защитени с авторско право, върху които се е обучавала системата.

Всички останали системи за изкуствен интелект са включени в групата „нисък риск“. От тях се иска само да бъдат достатъчно отворени, за да може потребителят да е наясно, че става дума за AI, и да има достатъчно информация, за да приеме обосновано решение.