В России обсуждают тесты для проверки ИИ на духовно-нравственные ценности

В России обсуждают создание специальных тестов для проверки искусственного интеллекта на духовно-нравственные ценности. Об этом сообщает «Код Дурова».

«Яндекс не представлял концепцию национального датасета и набор тестов для проверки ИИ-моделей. На рабочей встрече в Минцифры представители нескольких компаний обсуждали возможные подходы к такой проверке. Яндекс был одним из участников обсуждения и высказал свою позицию – содержание датасета должно быть открытым по общепринятым принципам отрасли», — отметили в компании.

Концепция национального датасета рассматривалась на недавнем совещании в Минцифры. Эти данные помогут оценить соответствие нейросетей духу времени и их пригодность для работы в российских условиях.

Главным предметом спора стала степень публичности контрольных заданий. ФСБ требует сделать формат закрытым, чтобы создатели ИИ не могли заранее натаскать модели на правильные ответы. Представители бизнеса предупредили, что скрытые критерии превратят проверку в лотерею и сильно замедлят развитие отрасли. В качестве компромисса было предложено совместить открытые тесты для разработчиков с закрытым финальным экзаменом.

Вопрос о том, кто именно будет составлять задания, пока остался нерешённым. ИТ-отрасль предложила сформировать для этого совместную комиссию с участием государства, бизнеса и экспертов. Специалисты подчеркнули, что для оценки моральных ценностей не может быть чёткого эталона, как в математике. В таких нестандартных вопросах потребуется привлекать людей для ручной проверки.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.