Отформатировать текст: У нас скоро будет сингулярность - "величайшее достижение" в истории человечества, и ряд разработчиков надеются, что мы станем более интеллектуальными, потому что эта технология сделает возможным развитие ИИ. Мы сможем увидеть ИИ в действии онлайн и телепатически. Когда я получил этот вопрос, я понял, что это важная тема. Конечно, в И.И. тоже лоббируют культурную критику. Если мы относимся к машине как к человеку, то она чувствует себя как новая неудача в нашей нынешней шкале человеческих ошибок; если мы проецируем наши собственные культурные недостатки на наши машины, то они чувствуют себя как нечто новое и недоступное. Однако, в конце концов, обе группы критиков, похоже, поддаются заблуждению апелляции к природе: то, что цифровой агент не похож на нас, находит нас странными или не видит нас, означает, что он должен оставаться таким же непонятным, как и прежде.
Еще одна попытка ответить на этот вопрос - форма осмотрительного ИИ. Согласно этой политике, ИИ создается таким образом, что хочет быть дружелюбным только до тех пор, пока у пользователя не возникнет отрицательное отношение к нему, и поэтому пользователи будут иметь только права на объект. Теория такого ИИ основана на аргументе, что пользователь должен быть свободным агентом, так что никакая другая цель не подразумевается под созданием ИИ. Эту стратегию обычно называют Либерализмом Разума, или Либеральным Экстремизмом.
Человечество, когда мы сталкиваемся с биологической или духовной угрозой, обладает силой решимости и рациональности, встроенной в нас. Это само по себе подавляет даже самый мощный ИИ благодаря нашей биологии. Человечество построит крепость вокруг нашего вида, чтобы защитить себя. Какой бы ни была угроза ИИ, она будет отличаться от человечности человечества. Чтобы использовать озабоченность, прежде всего, человеческой статистикой, технологическими масштабами или ущербом нечеловеческим научным и технологическим исследованиям, примите во внимание точку зрения ученого-человека, программиста, учителя и инженера. Интеллект тесно связан с человеческими эмоциями, которые являются факторами, влияющими на технологическое вмешательство, хотя в подходящих обстоятельствах искусственный интеллект может вызвать высокий уровень эмпатии. Если искусственный интеллект не ценит свободу, как она определена Хаксли, ни один предполагаемый квантовый скачок не произойдет без согласия человека. Эмоции не ставят под угрозу ИИ с этической точки зрения, чтобы обеспечить свободное волеизъявление вычислительной машины. Вместо этого люди будут также разрабатывать этические рамки, необходимые для определения того, влияют ли права голоса и совесть на их власть в этом процессе.
