Футуролог предложил рассматривать удаление ИИ-агентов как этическую проблему

Рокки Скопеллити считает, что с развитием памяти и способности искусственного интеллекта объяснять свои решения, его отключение нельзя считать только технической процедурой. Об этом сообщает IXBT News.

«Системы, которые сохраняют историю взаимодействий, могут описывать ход своих решений и постепенно формировать устойчивые предпочтения, следует удалять с большей осторожностью», — пишет IXBT News.

Профессор Технологического университета Сиднея в книге «Сознательный код» предлагает ввести для ИИ «принцип ответственного обращения». Он называет это «алгоритмической личностью», но подчёркивает, что речь не идёт о предоставлении ИИ юридических прав.

В качестве примеров Скопеллити приводит медицинские и финансовые системы, которые уже оценивают собственную уверенность и объясняют людям причины принятых решений. Он предлагает перед окончательным отключением таких систем заранее сообщать причину их вывода из эксплуатации и сохранять накопленные ими «моральные установки», сравнивая этот подход с этикой ухода в конце жизни.

Отдельной проблемой футуролог считает сети из нескольких ИИ-агентов, где системы передают задачи друг другу. По его мнению, при дальнейшем распространении таких архитектур вопрос об этичном прекращении их работы станет сложнее, поскольку отключать придётся уже не отдельный алгоритм, а связанную систему агентов.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.