Интеллект и Сознание
Интеллект и Сознание: здесь собраны лучшие цитаты, афоризмы и высказывания великих ученых и мыслителей, известных и успешных людей на предмет этой темы.
Если я могу понять квантовую механику, то я могу понять и процессы, происходящие в наших телах.
Усиление интеллекта — это конкретная форма улучшения человека за счет дополнения человеческих интеллектуальных способностей технологиями. Часто это позиционируется либо как дополнение, либо как конкурент созданию искусственного интеллекта. — В реальности нет взаимного исключения между этими технологиями. Это может быть частичным решением проблемы технологической безработицы — позволит людям, или постчеловечеству, развиваться наравне с достижениями исскуственного интеллекта и оставаться на коне.
Все, что мы знаем в данный момент, является частью нашего сознания, делая сознательный опыт сразу самым знакомым и самым таинственным аспектом нашей жизни.
Для нас важно создать искусственный интеллект, у которого хватит ума учиться на своих ошибках. Он будет способен бесконечно совершенствовать себя. Первая версия сможет создать вторую, которая будет лучше, а вторая, будучи умнее оригинала, создаст ещё более продвинутую третью и так далее. В определённых условиях такой процесс самосовершенствования может повторяться до тех пор, пока не будет достигнут интеллектуальный взрыв – момент, когда интеллектуальный уровень системы подскочит за короткое время с относительно скромного уровня до уровня суперинтеллекта.
Пока нам обещали общий исскуственный интеллект, способный адаптироваться и обучаться самостоятельно, в реальности появились лишь алгоритмы, которые, к примеру, могуть распознать дорожный знак как мяч только потому, что он тоже круглый. И уж точно нельзя говорить о том, что исскуственный интеллект, натренированный с помощью глубокого обучения, когда-нибудь научится оперировать абстрактными понятиями. Ему никогда не понять, что такое «честность», «справедливость» и так далее.
Исскуственный интеллект хорошо работает только на статических наборах данных. Поэтому алгоритмам подвластны, например, шашки и го. Когда же речь заходит о применении исскуственного интеллекта в медицине, финансах и экономике, то появляется ряд проблем. Например, непрозрачность. Алгоритмы глубокого обучения используют миллионы и даже миллиарды параметров. Человеку сложно идентифицировать их привычным для себя способом, что в конечном итоге может привести к тому, что неправильный диагноз или финансовый прогноз будет выдан за правильный. Подход глубокого обучения очень ограничен и мало вероятности, что именно он приведет к созданию так называемого общего исскуственного интеллекта, то есть алгоритма, способного имитировать работу человеческого сознания.
Если интеллектуальный взрыв угрожает нам исчезновением, то мы должны понять, можем ли мы контролировать процесс детонации. Сегодня было бы более разумным ускорить работу по решению проблемы контроля, нежели приостанавливать проведение исследований в области искусственного интеллекта. Но пока решением проблемы контроля занимаются человек шесть, в то время как над созданием искусственного интеллекта трудятся десятки, если не сотни тысяч.
Предположим, что ум есть, так сказать, белая бумага без всяких знаков и идей. Но каким же образом он получает их? Откуда он приобретает тот их обширный запас, который деятельное и беспредельное человеческое воображение нарисовало с почти бесконечным разнообразием? Откуда он получает весь материал рассуждения и знания? На это я отвечаю одним словом: из опыта.
Вопрос «Могут ли машины мыслить?» имеет примерно такой же смысл, как вопрос «Могут ли подлодки плавать?».
Искусственный интеллект страшен своей эффективностью и полным отсутствием эмпатии к людям, особенно к тем, чьи интересы не совпадают с предустановками роботов. Главный вопрос кто будет заниматься установкой таких целей и интересов — люди или машины, которые рано или поздно научатся все-таки копировать себя. Хоть и для обслуживания человечества.
Огонь способен убить человека. Но люди научились приручать его и извлекать от этого пользу. Людям следует поступить и с искусственным интеллектом. Обойдя препятствия, человечество сможет воспользоваться огромным потенциалом исскуственного интеллекта. Например, применить его для борьбы с климатическими изменениями или для разработки лекарств от рака.
Добрый и мощный искуственный интеллект, который сможет решить массу человеческих проблем — идеальный сценарий. Но есть опасения, что на пути к этому идеалу разработки свернут в неправильном направлении. В ближайшие 100 лет возможны различные катастрофические сценарии, но за некоторые из них искуственный интеллект может быть ответственным, а некоторые поможет избежать. Я верю в скуственный интеллект, но все зависит от людей, от того куда они направят разработки.
Соответствующим образом запрограммированный компьютер с нужными входами и выходами и будет разумом, в том смысле, в котором человеческий разум — это разум.
Как только технологии позволят нам реконструировать человеческий мозг, Homo Sapiens исчезнет, история человечества закончится и начнется абсолютно новый, недоступный нашему с вами пониманию процесс.
Искусственный интеллект может быть менее человечен, чем пришелец. Нет ничего удивительного, что любого разумного пришельца могут побуждать к действию такие вещи, как голод, температура, травмы, болезни, угроза жизни или желание завести потомство. Искусственный интеллект, по сути, ничто из перечисленного интересовать не будет.
Дух, ум, душа и тело: Дух - мужское начало, воля и личностная вертикаль. Душа - живая, женская часть пространства внутренней жизни человека. То, что делает нас (и наш ум) - теплыми, а на наше тело дышащим, живым. Душа дает энергию жизни. Это внутренние чувства, желания, порывы... Душа - начало материнское, источник жизненности и тепла, личностная горизонталь. Ум - интеллектуальное содержание. Улучшенный ум - чистый и наполненный - Разум. Ум, перешедший в тело, дает умения, умелость. Союз ума и души - разумная душа. Тело - навыки, бессознательное, физиологическая основа душевной жизни и интеллектуальных поисков. Кто кого определяет? Похоже, это во многом зависит от уровня развития личности. Чем менее развита личность, тем больше гены определяют тело, тело определяют душу, а душа определяет ум. Чем более личность развивается, тем более ум вразумляет душу, душа дружит с телом, ум и душа строят тело, а в теле накапливается новый генный фонд. По замыслу о личности, дух должен быть во главе, руководя умом, душой и телом. У сильного человека ум и душа - помощники духа, а тело - воспитуемый ими ребенок.
Предсказать будущее исходя из прошлого, предсказать прошлое исходя из настоящего, предсказать левую сторону лица исходя из правой. И поскольку вы просите машину предсказывать большее количество вещей, она будет учить больше вещей и узнавать больше закономерностей. Прогностические модели мира, фиксирующие мировые закономерности — это решающее достижение в исскуственном интеллекте.
Я бы хотел, чтобы мы стали более независимыми от политики и сконцентрировались на возможностях использования человеческого мозга. Знание об этих возможностях — ключ к будущему, принятию решений. Один из примеров, - нужны машины, которые очень хорошо имитируют человека, но скорее помогают человеку быть самим собой.
Пусть ультраинтеллектуальная машина определяется как машина, которая может намного превосходить все интеллектуальные действия любого человека, насколько это возможно. Поскольку конструкция машин является одной из этих интеллектуальных задач, ультраинтеллектуальная машина могла бы разрабатывать еще лучшие машины; Тогда бесспорно был бы «взрыв разведки», и разум человека остался бы далеко позади. Таким образом, первая ультраинтеллектуальная машина является последним изобретением, которое человек должен когда-либо делать, при условии, что машина достаточно послушна, чтобы рассказать нам, как держать ее под контролем.
В какой-то момент у меня были опасения насчет искуственного интеллекта. Я представлял, что машины неожиданно заменят всех людей на их рабочих местах, лишив их средств к существованию и все в таком духе. Но потом я полностью сменил свои взгляды, по двум причинам. Во-первых, это закон Мура, который никогда не позволит машинам научиться мыслить наравне с человеком. Другая причина — это осознание, что даже если у машины получится переплюнуть человека по многим показателям, она никогда не сможет обзавестись интуицией. Машина не сможет сказать, что я сделаю в следующую минуту, она также не сможет объяснить, каким образом я оказался на этом самом месте.
Исскуственный интеллект всегда будет нуждаться в человеке. Конечно, по мнению некоторых, искусственный интеллект станет настолько производительным, что люди будут не нужны. Но я не понимаю, как это может быть. Даже если машина сможет общаться как человек (вы только представьте себе, насколько сложно этого достичь), человек всегда будет важнее машины.
Будет ли это любовь компьютера к человеку или компьютера к компьютеру, у которого схожие параметры? Но теоретически нельзя сказать, что это не произойдет. Возможно, когда-то мы сможем разобраться во всей сложности механизма наших эмоций и создать нечто подобное сами. И тогда компьютеры научатся любить.
Разум в широком смысле - рациональное начало в человеке, развитая способность думать и действовать, опираясь на логику и факты. Разумное в таком широком смысле - это рациональное, то есть хорошо просчитанное, продуманное и взвешенное, имеющее внятную логику и ведущее к цели наиболее надежным образом. Рациональный - вполне разумный, обоснованный, целесообразный. Разум в более узком смысле - не просто рациональность. Злобный человек может быть вполне рационален. Но разумный человек - это человек, владеющий собой, способный отвечать за себя, и поэтому разумный человек не может быть злобным. Разум в более точном смысле слова - это рациональность, направленная на добро и помноженная на нравственность. Разум - улучшенный ум, синтез ума, творчества и нравственности. Если к разуму прибавляется опыт, человек становится мудрым.
При отсутствии глобальных вызовов и катастроф технологии будут развиваться гармонично: люди будут контролировать применение искуственного интеллекта в оборонной сфере и с осторожностью проводить генетические эксперименты. Но если возникнет глобальный кризис, человечество пойдет на отчаянные и рискованные меры.
Человек сам по себе представляет полезный ресурс (удобно сгруппированные атомы), а его выживание и процветание зависит от других ресурсов. Результатом развития искусственного интеллекта, нуждающегося в этих ресурсах, может легко стать исчезновение человечества. Так настанет время технологически высокоразвитого общества, включающего в себя множество сложных структур, многие из которых будут умнее всего, что есть сегодня на планете. Это будет время экономических и технологических чудес. Но никого, кто бы мог этим воспользоваться, не останется. На Земле воцарится Диснейленд, в котором больше не будет детей.
Алгоритмы не могут быть полноценной заменой людям — они могут только помогать им, давая более богатую информацию для принятия решений.
Наша роль, роль биологического мозга, сместится к тому, к чему он лучше приспособлен, а новые интеллектуальные системы, если они разовьют достаточную точность и креативность, оставят ему то, в чем он сильнее. Конкуренции между разными инструментами быть не должно, все они будут двигать вперед прогресс. Но что если в конце концов все важные дела сможет лучше выполнять какой-нибудь компьютер? Это может быть новой фазой эволюции. Возможно — и людей это отпугивает — биологическая версия разумной жизни на этой планете является всего лишь трамплином. И если этот трамплин приведет к тому, что в далеком будущем биологическая форма жизни перестанет быть господствующей на Земле, так тому и быть.
Иногда мой мозг удивляет меня самого.
Логика квантовой теории поля и инфляционной космологии заставляет меня признать, что в бесконечно отдаленном будущем в вакууме будут рождаться все новые и новые копии меня самого, точнее, моего нынешнего сознания. Но если это так, почему я должен верить, что я нынешний — это и есть оригинал, а не одна из копий? Более того, коль скоро число копий бесконечно, такая вероятность больше, чем вероятность быть первоисточником. Конечно, этот парадокс можно обойти. Например, можно предположить, что темная энергия, вызывающая экспоненциальное расширение Вселенной, распадется прежде, чем появятся хоть какие-то шансы на рождение всего лишь одной моей копии. В таком случае я вправе считать себя оригиналом, но вынужден предсказать, что Вселенная обречена на исчезновение. Фактически речь идет о том, как сопоставлять вероятности различных процессов в вечно обновляющемся фрактальном мироздании. Это вполне реальная и очень серьезная проблема космологии. В принципе такое сравнение можно делать самыми разными способами. Однако если мы захотим, чтобы результаты отвечали нашей интуитивной вере в собственную реальность, очень многие алгоритмы сравнения придется отбросить. Вот и получается, что вроде бы чисто фантастическая идея больцмановского мозга выполняет в космологии очень серьезную роль.
