Zákon stanoví, aby byly zakázány programy umělé inteligence, které provádějí hodnocení na základě sociálního chování. Cílem nové normy je také uměle regulovat rozpoznávání obličejů, píše deník Handelsblatt.
V Evropské unii začala od neděle platit nová pravidla pro nakládání s umělou inteligencí (AI). Podle unijního zákona o umělé inteligenci je zakázáno používat programy umělé inteligence, které provádějí hodnocení na základě sociálního chování. To znamená, že lidé by mohli být rozděleni do kategorií podle chování a odměňováni nebo trestáni.
Rozpoznávání obličeje na veřejných místech – například prostřednictvím kamerového systému na veřejných místech – by rovněž nemělo být povoleno. Existují však výjimky: policii a dalším bezpečnostním orgánům může být umožněno používat rozpoznávání obličejů za účelem stíhání některých trestných činů, jako je obchodování s lidmi a terorismus.
S termínem 2. února 2025 musí společnosti, které vyvíjejí nebo používají umělou inteligenci, posoudit své systémy podle míry rizika a přijmout vhodná opatření, aby splnily nastupující právní požadavky. Podle Evropské komise je cílem nového nařízení nejen ochrana práv spotřebitelů. Chce také zajistit, aby se AI používala odpovědně.
Kontakt:
Igor Záruba
manažer projektu