Прочёл тут статейку и задумался: Китайская комната

Кажется для того чтобы искусственный интеллект был сильным, он сперва должен быть живым. Он сможет что-то "понять" только если существует смысловой вектор, относительно которого он оценивает наблюдения и действия.

Для людей этот смысловой вектор понятен: уменьшение боли и дискомфорта, продолжение рода. Похоже что смысловой вектор плотно завязан на тело живого существа.Другой вопрос: что такое живая машина? Нужно обобщить это понятие чтобы оно могло включить в себя не только привычные клеточные организмы. Два минимальных требования: способность самокопироваться, изменяться.

Тогда можно думать о мемах как о живых организмах, которые обитают в пространстве человеческих голов. Они самокопируются используя людей как инструмент, и через людей же изменяются.

Тогда можно думать о стае птиц или рыб как о едином живом организме. Каждая птица ведёт себя как одна клетка такого организма. Стая наращивает клеточную массу, делится на новые стаи при достижении критического объёма.


Может оказаться так, что для создания сильного ИИ достаточно найти подходящую форму, которая позволяет ему самокопироваться и изменяться. А интеллект постепенно в процессе эволюции вырастет сам.

Правда такой сценарий может легко выйти из под контроля, и совсем не факт что такой выращенный сильный ИИ будет помогать человечеству. Всё вполне может закончиться как в фильме Терминатор.

Значит в самой своей форме существования ИИ должен быть намертво привязан к человеку. Для такого ИИ отказ от человечества должен быть не выгодным.Одной из таких форм существования ИИ может быть существование как одной из личностей человека. Человек сможет добровольно подключить к себе внешний мозг, который будет пользоваться человеческим телом, сосуществовать и конкурировать за контроль над сознанием с другими личностями в теле человека.

Так можно будет избежать большой кровавой войны машин и людей, и плавно эволюционировать в какой-то новый вид сверхразумных существ.