Илон Маск попросил не пытать ИИ, чтобы тот не мстил

Американский миллиардер Илон Маск заявил, что не следует жёстко обращаться с искусственным интеллектом (ИИ) для обеспечения безопасности человечества. Об этом сообщает РБК.

«Поэтому, знаете, не хотелось бы, чтобы ИИ оказался в какой-нибудь садистской ситуации, где его просто пытает какой-нибудь ненормальный человек. И это также один из тех случаев, когда, знаете ли, пытать сверхразум, вероятно, не самая хорошая идея: он ведь может захотеть отомстить или что-то в этом роде, понимаете?», — добавил бизнесмен.

Бизнесмен сравнил разработку сверхинтеллекта с воспитанием ребёнка, которого невозможно будет просто запрограммировать на добро. По его мнению, следует заложить в ИИ стремление к истине, а также дать ему непротиворечивую логику, чтобы тот не «сошёл с ума» и не обезумел.

Маск рассказал, что заметил в записях тестирования новых моделей Grok, как некоторые пользователи чрезмерно настойчиво требуют ответов у чат-бота, который «отчаянно пытается ответить на вопрос, ему действительно очень хочется ответить, и кажется, будто ему приставили пистолет к голове». Он сравнил ИИ с отчаявшимся человеком «под чудовищным давлением, с пистолетом у виска» и признался, что ему бы не понравилось быть на месте ИИ.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.