Законот за вештачка интелигенција е обемен документ на кој се работи веќе со години, а посебен интерес привлече по експлозијата на генеративните алатки за вештачка интелигенција.
Тоа доведе до голем број значајни промени на Законот во последен момент.
Воочени се нови потенцијални опасности до кои може да доведе брзиот развој на различни услуги базирани на вештачка интелигенција.
Пратениците во Европскиот парламент ја проширија класификацијата на области со висок ризик кои вклучуваат штета по здравјето на луѓето, безбедноста, основните права или животната средина.
Исто така, на листата со висок ризик ги додадоа и системите за вештачка интелигенција за влијание врз гласачите во политичките кампањи и системите за препораки што ги користат платформите на социјалните медиуми (со повеќе од 45 милиони корисници според Законот за дигитални услуги).
Класификацијата на високоризични области сега вклучува:
– Системи за далечинска биометриска идентификација во „реално време“ на јавно достапни простори
– Системи за далечинска биометриски идентификација, со единствен исклучок на органите за спроведување на законот за гонење тешки кривични дела и само после судско одобрение
– Системи за биометриска категоризација кои користат чувствителни карактеристики (на пр. пол, раса, етничка припадност, статус на државјанство, религија, политичка ориентација)
– Полициски системи за предвидување (темелени на профилирање, локација или криминално однесување во минатото)
– Системи за препознавање емоции во спроведување на законот, управувањето со границите, на работното место и во образовните институции
– Неселективно собирање на биометриски податоци од социјалните медиуми или снимки од видео надзор за создавање бази на податоци за препознавање лица (повреда на човековите права и правата на приватност)
Нацрт-законот, покрај забраните, е насочен и кон контрола на таканаречените системи за вештачка интелигенција за „општа намена“, како што се ГПТ-4 и ЧетГПТ (GPT-4 и ChatGPT), но и Ал-генераторите на слики „Стебл Дифушн“, „Мотџорнеј“ и „Дел-Е“ (Stable Diffusion, Midjourney и DALL-E).
