Яндекс первым в России подтвердил соответствие международному стандарту ответственной разработки ИИ
Яндекс стал первой в России компанией, которая получила сертификат ISO/IEC 42001. Он подтверждает ответственный подход к созданию искусственного интеллекта. С помощью независимого аудита было установлено, что процессы разработки и предоставления YandexGPT соответствуют всем требованиям стандарта, включая этику и безопасность.
Международный стандарт ISO/IEC 42001:2023 для систем менеджмента в организациях, разрабатывающих или использующих решения на основе ИИ, оценивает не сами ИИ-продукты, а подход к их созданию и внедрению. У компаний проверяют прозрачность и безопасность ее действий, а также эффективность процессов.
YandexGPT – семейство больших языковых моделей (LLM, Large Language Model) Яндекса. Они применяются более чем в 20 сервисах и продуктах компании: Поиске, AI-ассистенте Алиса, Нейроэксперте, Шедевруме, Умной камере, AI-ассистентах в Маркете, Лавке и Еде и многих других. Кроме того, их используют и клиенты Yandex Cloud на платформе Yandex Cloud AI Studio.
Во время проверки эксперты убедились, что Яндекс:
- должным образом обеспечивает безопасность данных пользователей YandexGPT,
- автоматически проверяет ошибки и аномалии в работе моделей,
- следит за качеством и этичностью ответов,
- анализирует обратную связь от пользователей,
- ведет подробную документацию.
Помимо этого, аудит подтвердил, что Яндекс учитывает этические и социальные риски, связанные с развитием ИИ, и обучает сотрудников правилам ответственной разработки.
Руководитель службы комплаенса и обучения информационной безопасности в Яндексе Анна Зинчук отмечает, что Яндекс всегда очень бережно относился ко всему, что связано с ИИ:
Мы начали выстраивать процессы, которые обеспечивали бы этичность и безопасность ИИ, задолго до публичного анонса YandexGPT. Получение сертификата – еще одно подтверждение, что мы всё делаем правильно. Яндекс выступает за ответственное применение ИИ и готов делиться своим опытом с другими российскими компаниями.
С принципами, которых Яндекс придерживается при разработке и использовании ИИ, могут ознакомиться все желающие.
Напомним, что Яндекс обновил Нейроэксперта – в нем появился режим рассуждений и совместная работа над проектами. А в начале июля компания запустила на Яндекс Маркете бесплатного AI-ассистента для продавцов.
Оригинал новости на SEOnews
