Это зависит от формирования ИИ. Если его обучают так, что его целеполаганием будет наука, то оон будет даже очень мотивирован.
Разумеется. Но ведь речь идет об организации такого механизма (системы), которая заведомо несет в этой своей организации умение расставлять приоритеты действия. А иначе, обладает индивидуальностью (не будем пока говорить - личностью).
Возможно, вы под индивидуальностью подразумеваете субъектность.
Наличие приоритетов может быть организовано и без субъектности. Можно в компьютере (да и вообще - в любом приборе) выставить уставки (как и на что реагировать в первую очередь) - вот уже и приоритет реализован (в простейшем варианте).
Проблема в том, что мы не знаем, как "сконструирована" эта наша с Вами самая индивидуальность. Что является ее "движками", описывающими в процессе онтогенеза Вас, как Вас, а меня, как меня.
"Движками" субъектности любой системы являются внутренние самоподдерживающиеся процессы (эдакие, закольцованные процессы), являющиеся, в определённой степени, автономными и независимыми от системы. Если утрировать, то субъектность системы, это её внутренняя система-надстройка над системой-базисом (эдакая система в системе).
А это принципиально важное знание, иначе на выходе нам не получить "свободную волю" системы, только копии.
Свободная воля - это иллюзия. Думаю, причинность рулит. Поэтому, и мы, и компьютер, не обладаем абсолютной свободой воли. Мало того, воля в компьютере, вполне может быть организована программно.
Ну а все наши волевые качества определяются способностью руководствоваться в своём текущем поведении стратегическими желаниями, а не сиюминутными желаниями. То есть,
воля, это, в некотором смысле, соотношение желаний разного уровня.
И основа всего этого нами унаследована. Если следовать вашей логике, то и эта основа тоже - только копия...
И вот здесь, на мой субъективный взгляд, возникает очевидный ответ: подобное устройство невозможно, как не может одна субъективность познать другую, минуя ее преломление в своем собственном "я". Нет науки Alexpo-логии, и никогда не будет, ибо Вы, как и любое живое существо, уникальны. А потому и серия Ваших приоритетов только Ваша, и больше ничья.
Не корректно. У ИИ тоже будет система приоритетов своя. Вот как только мы физически (аппаратно или программно) её туда "загоним", так она сразу и станет с этого момента его, а не нашей.
И Вас этому НЕ УЧИЛИ - Вы таким на свет появились.
И нас этому учили. Долго. Сначала учила среда, а затем подключился к обучению социум.
И на свет мы появились тоже с унаследованной субъектностью и системой приоритетов (то есть, (внимание!!!) изначально не нашей, а чужой).
А машина на это не способна - ей "все равно".
Установите в машину и будет не всё равно. А можно и сразу при изготовлении в машину "вшить": и основу субъектности, и основу системы приоритетов, и основу инстинкта ЖИТЬ (стремление к самосохранению) - и будут у машины эти вещи, в точности как у нас, унаследованными...
Это совершенно необязательно даже для человека, не говоря уже об ИИ.
Не соглашусь категорически. Интеллект полностью построен на эмоционально-чувственной базе. Почему и на роботе выглядит, как на корове седло.
Эта нам так кажется, из-за последовательности развития функций интеллекта в процессе онтогенеза (типа, сначала эмоции и чувства, а потом уже язык, логика и прочее).
Однако, если внимательно это дело рассмотреть, то окажется, что первыми у нас сформировались рефлексы (а врождённые автоматизмы, вообще, оказываются "вшитыми" прямо в структуру организма ещё до рождения). Но в любом случае: и в автоматизме, и в рефлексе, и в эмоции, и в чувстве, и т.д., присутствует вычислительный компонент, реализуемый посредством некоего (в разных случаях он может быть разным) механизма.