Евросоюз, похоже, первым в мире планирует ввести закон, регулирующий использование ИИ — AI Act. 11 мая профильные комитеты Европарламента проголосовали за его проект. Xто предлагают и когда правила введут в действие.
В ЕС всё запретят?
Не все. Системы с ИИ разделят на четыре категории по степени риска. К системам с минимальным риском отнесли игры и спам-фильтры. Они смогут работать без ограничений. К системам ограниченного риска, куда отнесут, по всей вероятности, популярные ChatGPT и Midjourney, предъявят требования о прозрачности: пользовать должен ясно знать, что контент сгенерирован нейросетью. А вот к системам с высоким риском требования будут жестче.
Что такое «высокий риск»?
Сюда еврочиновники отнесли специализированные системы, основанные на нейросетях, которые могут использоваться в здравоохранении, транспорте, трудоустройстве, образовании, юриспруденции. То есть беспилотные автомобили, нейросети, помогающие врачам ставить диагноз, судья — выносить вердикты, госслужащим — оценивать поданные документы, работодателям — анализировать резюме, полицейским — распознавать лица и прогнозировать преступления будут проходить строжайшую проверку перед внедрением.
Но что-то же запретят?
Да. Нельзя создавать базы данных на основе системы распознавания лиц, а также разделять людей по полу, расе, этносу, гражданству, религии. Вообще, использование распознавание лиц будет возможно только с разрешения суда.
Полностью запретят ИИ-системы, отнесенные к категории неприемлемых: сервисы для социального рейтинга, как в Китае, и те, что могут быть использованы для манипуляций.
Это уже закон?
Пока еще нет. Вообще-то, над ограничением ИИ европейская бюрократия неспешно работает с 2021 года. Но последние разработки подстегнули чиновников.
Проект должен пройти голосование в Европарламенте, потом переговоры в Совете Европы, во время которых наверняка внесут многочисленные поправки и будут много спорить, и только после этого пройдет финальное голосование. По планам, это произойдет к концу 2023-го, но в реальности все может затянуться.