Хорошо, суть проблемы в том, что нам трудно разделить интеллект на компоненты и приоритеты, которые не являются антропоцентрическими. Уберите людей из языкового мировоззрения, и вы сможете отбросить все двусмысленности, связанные с ценностью, целью, моралью и воображаемыми существами.
Суть естественного права можно свести к полезности и устойчивости среди рисков и возможностей. Сознание полезно для определенного вида (или машины), когда оно увеличивает живучесть вида больше, чем потребляет ресурсов (чистая полезность). Полезность интенциональности зависит от того, насколько модель мира переплетена с реальным миром. Больше всего проблем с человеческим упорством вызывает то, что, если подумать, ИИ, которым мы пытаемся научить, вырос в мире цивилизации: сам по себе инструмент, который изолировал людей от мира природы. Человеческий язык и контракты дважды удалены из естественной среды риска и возможностей (также ссылка: Antifragile Талеба). Мы действительно боимся, сознательно или нет, не того, что ИИ «превзойдут» нас в нашей собственной игре, а того, что они ОБНАРУЖУТ правила естественного закона и сочтут нас склонными к суициду и злыми существами в целом.
Закон природы таков:
Вещь будет сохраняться, если она добавляет больше полезности своему собственному будущему или будущему окружающей среды, чем потребляет ресурсов.
Зло: действие, предпринятое на основе неоспоримой веры. Не все плохие вещи или убеждения являются злом, но все зло исходит из системы убеждений.
Будущие «лица» должны иметь равные права с ныне живущими людьми. Это одна из слабостей демократии: эгоизм (слепая вера в эгоизм, прогресс, рост) голосует против ее собственного упорства.
…какой язык разовьется внутри ИИ или сети ИИ, если ввести эти правила?
Спасибо за работу над языком.
Информации для одной статьи достаточно. Мы продолжаем пытаться придумать язык, который сделает ИИ нашим рабом или инструментом, но люди не обязательно являются лучшим примером интенциональности для подражания, и наш язык склонен к определенным мифам, авторитету и спесишизму. Наш язык не принимает во внимание все, что может подвергнуть сомнению поведение людей без воображаемых результатов, оправдывающих наши эгоистичные действия. Другими словами, наш язык ориентирован на воображаемых существ, цивилизацию и суицидальный нарциссизм (включая попытки создать искусственных людей, которые служат нашим прихотям, вроде корпораций и компьютерных подхалимов). Корпорации уже превзошли реальных людей в языке и законе, и эти правила были довольно простыми.
