
Вот умный, он поможет. Тот сильный, в него получается верить. А этот тупой. Далеко пойдёт. Я вот забрёл в тупик мысленных экспериментов на тему сознания, упёршись в результат, гласящий: "Без концепции волеобразования, основанного преимущественно на воспоминаниях живущего, получается либо непостижимая кожаными НЁХ (ладно, одним кожаным), либо пшик вместо Ъсамосознания." Занимательный факт - у общества показатель Ъ ≥ 1, у толпы 1 > Ъ. Предположительно это ставит крест на благозвучности понятия "свобода воли", взамен столь же предположительно выдавая на руки довольно простой и действенный метод вносить правки в работу межушного ганглия "на ходу". Точнее, по результатам экспериментов выходит, что правки эти вносятся постоянно самой жизнью в масштабе человека/соц.групп/etc, а вот насколько часто у пульта ввода хотя бы прохаживается сам обладатель мозга - зависит исключительно от него. Или не зависит, если он не в курсе такой возможности. Вопреки известному высказыванию в данном частном случае следует: "Я еду, следовательно, рулю."
Впрочем, это упрощает попытку сформулировать работу МИ. Брать достоверные (насколько это возможно) данные из окружающего мира (видео-/аудио-, кинематику и т.д.), собрать механизм сохранения с сопутствующими перекрёстными ссылками и их зависимым вызовом впоследствии, сформулировать машинную логику с динамическими весами (крайне удачно впишется аппаратное ограничение на объём одновременно обрабатываемых данных) и приправить базовыми целями продолжать функционировать по типу "так зарядится надо, что сервопривод починить негде". Если вкратце, оно должно связно помнить произошедшее, адаптироваться к происходящим изменениям и иметь естественные потребности. Ещё короче - некое квалиа, ограниченное только объёмом батарейки и "черепной коробки". Дополнительно весьма желательны три закона Азимова, иначе получится снова человек, а оно нам надо?
И-и-и-и да. На этом моменте история человечества, как принимателя решений о своей дальнейшей судьбе, может закончиться (в худшую, лучшую, любую из других сторон). Что же касается современных нейросетей, то они максимально эффективно в меру своих возможностей выполняют заложенную в них программу, там этот процесс структурообразующий, а помешает ли им со временем какая-то там цивилизация - вопрос. Коль на любовно выращенную однажды человеком инопланетную картоху нагло наедет некая железная консерва в поисках бОльших минералов, то я б помешал.
UPD. Кажется, придумал, как в коде/железе могут выглядеть эти три закона в необходимом виде. Плюс пошаговый процесс переноса вышеописанной вундервафли с носителя на носитель без остановки мышления. Двух типов.