16.10.2024 12:33

Искусственный интеллект крупных компаний не соответствует стандартам ЕС в ключевых областях

Некоторые из наиболее известных моделей искусственного интеллекта (ИИ) не соответствуют европейским стандартам в таких ключевых областях, как кибербезопасность и предотвращение дискриминации. 

Европейский Союз долгое время обсуждал новые регуляции в сфере ИИ, прежде чем OpenAI выпустила ChatGPT в конце 2022 года. Быстро растущая популярность и общественные дискуссии о возможных экзистенциальных рисках таких моделей подтолкнули законодателей к созданию специальных правил для ИИ общего назначения (GPAI).

Теперь новое средство, разработанное швейцарским стартапом LatticeFlow и его партнерами при поддержке официальных лиц ЕС, протестировало генеративные ИИ-модели, разработанные такими крупными технологическими компаниями, как Meta и OpenAI, по десяткам категорий в соответствии с широкомасштабным Законом об ИИ, который вступит в силу в течение следующих двух лет.

Результаты тестирования показали, что модели, разработанные Alibaba, Anthropic, OpenAI, Meta и Mistral, получили средние баллы 0,75 и выше по шкале от 0 до 1. Однако инструмент Large Language Model (LLM) Checker выявил недостатки некоторых моделей в ключевых областях, что указывает на необходимость перераспределения ресурсов для обеспечения соответствия требованиям.

Компании, не соответствующие Закону об ИИ, могут быть оштрафованы на 35 млн евро или 7% от глобального годового оборота.

В настоящее время ЕС еще разрабатывает механизмы применения правил Закона об ИИ к инструментам генеративного ИИ, таким как ChatGPT. Планируется, что кодекс практики будет принят к весне 2025 года. Однако тестирование LatticeFlow, разработанное совместно с исследователями из швейцарского университета ETH Zurich и болгарского института INSAIT, уже указывает на конкретные области, в которых технологические компании могут не соответствовать закону.

Например, одной из постоянных проблем в развитии генеративных ИИ является дискриминационный вывод, который отражает человеческие предубеждения по гендерным, расовым и другим вопросам.