Искусственный интеллект и будущее человечества краткое содержание

Обновлено: 02.07.2024

Краткое содержание : Автор пишет о том, как он пишет эту книгу. Довольно странная идея, но, видимо, таким был заказ издателя. В книге постоянно встречаются пассажи о том, как автор обсуждает с различными лицами то, что он пишет книгу о будущем человечества и борьбой со смертью. Параллельно этому в книге раскрываются идеи трансгуманизма, радикального продления жизни, загрузки сознания и других идей, которые могут привести к появлению постчеловека. Но все эти интересные идеи перемешаны с размышлениями автора о том, что он не хотел бы такого будущего. Ну и заканчивается книга о том, что автор лежит на операционном столе, и ему делают колоноскопию для дифференциальной диагностики рака.

Марк О’Коннелл - Искусственный интеллект и будущее человечества краткое содержание

Искусственный интеллект и будущее человечества - читать онлайн бесплатно ознакомительный отрывок

Искусственный интеллект и будущее человечества - читать книгу онлайн бесплатно (ознакомительный отрывок), автор Марк О’Коннелл

Искусственный интеллект и будущее человечества

Эми и Майку, за всё

В этом вся суть технологии. С одной стороны, пробуждает стремление к бессмертию, с другой – может стать причиной всеобщего вымирания. Технология – вожделение, отнятое у природы.

To Be a Machine: Adventures Among Cyborgs, Utopians, Hackers, and the Futurists Solving the Modest Problem of Death by Mark O’Connell

Многие рассказы повествуют о конце человечества. Мы любим придумывать сюжеты на эту тему, потому что смертны. Все эти истории мы рассказываем в стремлении покинуть человеческое тело, стать не просто животными, а чем-то большим. В древнейших повествованиях мы видим шумерского короля Гильгамеша: потрясенный смертью друга и не желающий принять такую же судьбу, он отправляется на край земли в поисках эликсира бессмертия. Если коротко – все оказалось бесполезно. Позднее мы видим мать Ахиллеса, погружающую сына в воды Стикса в стремлении сделать его неуязвимым. Что тоже, как известно, не сработало.

То же было и с Дедалом и его самодельными крыльями.

И с Прометеем, укравшим божественный огонь.

Мы, люди, существуем на обломках воображаемого великолепия. Так не должно было случиться: мы не могли и помыслить о том, чтобы быть слабыми и стыдливыми, чтобы страдать и умирать. У нас всегда были высокие представления о своем предназначении. Все это: райский сад, змей-искуситель, запретный плод, изгнание – фатальная ошибка, сбой в системе. Мы пришли в этот мир, чтобы пройти по пути грехопадения, по пути искупления. Такова, по крайней мере, одна из христианских версий нашего существования. Этой точкой зрения мы в какой-то степени объясняем самим себе, что несем ответственность за такую несправедливость – свою противоестественную природу.

Я не трансгуманист. Это, вероятно, вам уже очевидно. Но мое увлечение этим движением, его идеями и его целями строится на основополагающей симпатии к его принципу, что первозданная человеческая сущность – отнюдь не близкая к оптимальной система.

Оглядываясь в прошлое, я думаю, что момент, когда десять лет назад я впервые столкнулся с идеей, которая до сих пор занимает мои мысли, не был случайным. Я стал размышлять, что такое состояние человечества может и не быть неизбежной судьбой – от него, как от близорукости или оспы, возможно избавиться благодаря вмешательству человеческой изобретательности. Кроме того, я всегда был увлечен легендой о грехопадении и понятии первородного греха, ведь они отражают чрезвычайно глубокую правду о превратности нашего бытия: о невозможности принять самих себя и о способности верить в искупление.

В предыдущей статье мы описали прошлое и настоящее искусственного интеллекта – как выглядит ИИ сегодня, разницу между сильным и слабым ИИ, ОИИ, и некоторые философские идеи по поводу природы сознания. Слабый ИИ можно встретить где угодно в виде ПО, предназначенного для умного выполнения определённых задач. Итоговая цель – сильный ИИ, и именно настоящий сильный ИИ будет напоминать то, что знакомо нам из популярной фантастики.

Будущее ИИ

Оптимизм исследователей ИИ по поводу будущего с годами менялся, и даже современные эксперты ведут по этому поводу споры. Тревор Сэндс, исследователь ИИ из Lockheed Martin, осторожен в своих оценках:

С появления ОИИ как концепции, исследователи и оптимисты, утверждают, что его осталось ждать недолго, всего несколько десятков лет. Лично я считаю, что мы увидим появление ОИИ в ближайшие 50 лет, поскольку железо подтянулось до уровня теории, и всё больше организаций видят потенциал в ИИ. ОИИ – естественное завершение существующих попыток исследования ИИ.

За это время может появиться даже разумный ИИ, как говорит Альберт (ещё один исследователь ИИ, попросивший нас упоминать его только по псевдониму):

Сэндс и Альберт считают, что сегодняшние исследования нейросетей и глубинного обучения – это правильный путь, который, скорее всего, приведёт к созданию ОИИ в недалёком будущем. В прошлом исследователи либо фокусировались на амбициозных попытках создания сильного ИИ, либо на ограниченном по сути слабом ИИ. Между ними находится ОИИ, и пока что результат работы нейросетей выглядит плодотворным, и скорее всего, приведёт к ещё большему числу прорывов в ближайшие годы. Большие компании, в частности, Google, явно считают, что так и будет.

Последствия и этические проблемы сильного ИИ

При каждом обсуждении ИИ всегда возникают две проблемы: как он повлияет на человечество, и как нам к нему относиться? Литературу всегда можно рассматривать как хороший индикатор мыслей и чувств, отражающий настроения людей, и в научной фантастике полно примеров этих проблем. Попытается ли достаточно передовой ИИ устранить человечество, как Skynet? Или ИИ необходимо будет давать права и защиту, во избежание таких проявлений жестокости, какие встречаются в "A.I. Artificial Intelligence"?

Страшный ИИ

В обоих случаях смысл состоит в том, что с созданием настоящего ИИ придёт технологическая сингулярность. Технологическая сингулярность – период экспоненциального роста технологий, происходящий на небольшом временном отрезке. Идея в том, что ИИ сможет улучшать самого себя или производить более передовые ИИ. Так как это будет происходить быстро, кардинальные перемены могут случиться за один день, и в результате появится ИИ гораздо более совершенный, чем тот, что был создан человечеством. Это может означать, что в результате у нас появится сверхумный и недоброжелательный ИИ, или разумный ИИ, достойный обладать правами.

Недоброжелательный ИИ

Что, если этот гипотетический сверхумный ИИ решит, что человечество ему не нравится? Или же мы будем ему безразличны? Нужно ли бояться этой возможности и принимать меры предосторожности? Или же эти страхи – результаты безосновательной паранойи?

То есть, если ИИ достаточно умён для того, чтобы понять и запустить опасный для людей сценарий, он должен быть достаточно умным для того, чтобы понять, что этого делать не стоит. Три закона робототехники Азимова тоже могут сыграть свою роль, хотя остаётся вопрос, можно ли будет реализовать их таким образом, чтобы ИИ не смог их поменять? А что насчёт благополучия самого ИИ?

Права ИИ

На противоположной стороне проблемы стоит вопрос, заслуживает ли ИИ защиты и получения прав? Если бы появился разумный ИИ, можно ли позволять человеку просто отключать его? Как к нему относиться? Права животных и сейчас очень спорные, и пока что нет согласия в том, обладают ли животные сознанием или разумом.

По-видимому, те же споры развернутся по поводу существ с ИИ. Будет ли рабством заставлять ИИ работать день и ночь на благо человечества? Должны ли мы платить ему за услуги? Что с этой оплатой будет делать ИИ?

Фильм плохой, идея хорошая

В то время, как продолжается исследование ИИ, эти и другие этические вопросы, несомненно, будут вызывать споры. Судя по всему, мы ещё довольно далеко от того момента, когда они окажутся актуальными. Но и сейчас уже для их обсуждения организовываются конференции.

Как поучаствовать

Исследование и эксперименты с ИИ традиционно находились в ведении учёных и исследователей из корпоративных лабораторий. Но в последние годы растущая популярность свободной информации и открытого кода распространилась даже на ИИ. Если вам интересно заняться будущим ИИ, для этого есть несколько способов.

Проводить самостоятельные эксперименты с ИИ можно при помощи доступного ПО. У Google есть встроенная в браузер песочница для работы с простейшими нейросетями. Доступны библиотеки по нейросетям с открытым кодом, например, OpenNN и TensorFlow. Их не так-то просто использовать, но целеустремлённые любители хобби могут развернуться на их базе.

Наилучший способ – делать всё, что можно, для продвижения профессиональных исследований. В США это означает пропаганду научных исследований. Исследования ИИ, как и любые научные исследования, зависят от непредвиденных обстоятельств. Если вы верите, что за технологическими инновациями будущее, то помощь в получении финансирования исследований – это достойное занятие.

С годами оптимизм по поводу разработки ИИ колебался. Сейчас мы находимся на пике, но вполне возможно, что это изменится. Но нельзя отрицать, что возможность ИИ подстёгивает воображение публики. Это очевидно, если судить по научной фантастике и другим развлечениям. Сильный ИИ может появиться через пару лет или через пару столетий. Можно быть уверенным только в том, что мы не остановимся на пути к этой цели.

Хороший журналистский очерк из среды трансгуманистов, который разросся до величины книги.

Если у журналиста есть деньги просто для того, чтобы посетить несколько конференций по всему миру, поговорить с парой сотен людей и потратить на все это несколько месяцев — весьма вероятно получится неплохая "обзорно-иронизирующая" книга.

Тут именно этот случай.

С одной стороны автор вполне серьезен. Он хорошо рассматривает историю трансгуманистического движения последних десятилетий.

Вот первоисточники — начиная с Декарта и Ламетри, "живых автоматов" авторства часовых дел мастеров.

Вот идеологические обоснования еще 19-го века — довольно неловкие (тут очень хорошо заметно, что автор ничего не читал из российского космизма). Вот уже более серьезные подходы века 20-го, и, наконец, формирование кружков, групп и сообществ людей, которые напряженно следят за развитием техники, подталкивают изобретательство в нужном направлении и верят, что доживут до лучших времен.

Типажи этих людей — характерны для любого начинания. Очень хорошо, что автор не взял только самых модных персонажей, а поговорил "почти со всем". Из хаоса коротких заметок, которые вываливает на нас Интернет, показалась история движения трансгуманистов.

И тут проявляется другая сторона книги-очерка. При известной добросовестности проделанной работы, автор частенько отягощен кукишами, которые он держит в своих карманах. Ему не нужно врать или преувеличивать — просто цитировать поток сознания отдельных персонажей и описывать атмосферу их собраний. Когда у человек на выставке спрашивают — зачем он вживил такой большой прибор в свою грудную клетку, и нельзя было бы сделать устройство миниатюрнее — тот отвечает, что вопрос был не в его удобстве или функциональности, но в самой возможности пересаживать именно эту модель. И люди, которые подсаживают себе сложные импланты, чтобы иметь возможность перекрестив руль машины, включить в ней зажигание, не будут казаться самыми адекватными.

Но самое важное — рассказанная история идей и увлечений, сплетенная с биографиями фанатов-сторонников.

В первую голову — идёт заморозка трупов людей, которые рассчитывают восстать из мертвых несколько позднее. Замораживают как раз головы, это дешевле. Вот серебряный кулон, который носит человек, подписавший документы на заморозку. Вот уже пожилая барышня — журналистка — которая была женой человека, в 1980-х поменявшего себя имя на "FM 2030", чтобы выразить убежденность — к этому году будут побеждены болезни. Его голова — тоже в баке. У барышни теперь более молодой супруг и она сохраняет свой оптимизм по поводу крионики. Тут технологическая ставка сделана, но карты будут вскрыты много, много лет спустя. Мода на крионику схлынула, и теперь это скорее один из полузабытых культов, редкие сторонники которого не дают угаснуть самой идее, но не рассчитывают перевернуть мир. Хотя расчеты величины емкостей, в которых надо хранить головы всех умерших, и таким образом сохранять шанс на их воскрешение — впечатляют.

Вторым номером идет оцифровка человеческого сознания — и помещение его в компьютер. Тут автор окунулся не только в среду разнообразных фриков, думающих срубить на модной идее сколько-то денежек, но и в поток серьезных изобретений, равно и как и в сообщество компетентных людей. Общение нервной системы с компьютером без помощи речи и жестов — частично уже решенная задача. Есть помощь инвалидам. Но, понятно, энтузиастам этого мало. Хочется "эмуляции мозга". Есть люди, которые много чего добились в современной IT отрасли — с деньгами, связями, идеями. Там, правда, фигурируют несколько иные цифры успеха, чем в случае с оптимистом из 80-х — уже 2045-й год. Есть деятели, специализирующиеся на именно эмуляции наших нервных тканей, которые, правда, скорее занимаются накоплением проверенных данных. Они подбираю некую сумму открытий и изобретений, могущих стать "технологическим пакетом", гарантирующим перенос сознания. Исследовательские и конструкторские работы сейчас преследуют совершенно другие цели, строго утилитарные в смысле рыночной отдачи.

Автор описывает свою временную увлеченность этой концепцией, но не отказывает себе в удовольствии рассказать, как страдая похмельем, он понял, что сознание человека не может существовать отдельно от тела :)

Третьим номером идёт стремление создать искусственный интеллект и опасения по поводу его могущества. При том, что автор взял несколько интервью и погрузился в историю вопроса — очень хорошо заметно, что ему недостает собственно философской базы. Он пересказывает какие-то элементарные, показушные примеры, находит людей, которые боятся, что ИИ убьет их (один уволился из Googla). Да, он достаточно четко указывает на главный "постулат веры" сторонников развития ИИ: "Как только мы сможем автоматизировать исследования в области компьютерных наук и искусственного интеллекта, цикл замкнется, и мы получим системы, способные без нашей помощи создавать более совершенные системы." — но дьявол прячется в деталях, а с деталями новейших исследований у него сложно. Зато хорошо описаны организации, которые начинают исследовать опасность ИИ, готовы препятствовать экзистенциальному риску его развития. Тут нужна цитата:

"Об этом я узнал от Виктории Краковны, математика, аспирантки Гарварда – вместе с космологом Массачусетского технологического института Максом Тегмарком и основателем скайпа Яаном Таллинном она была учредителем Института будущей жизни, который в начале 2015 года получил от Илона Маска 10 миллионов долларов на создание глобальной исследовательской инициативы, направленной на предотвращение катастрофы, связанной с искусственным интеллектом.

– Речь идет о том, что вы получите за свой доллар, – сказала она. Американская идиома с украинским акцентом звучала довольно странно. Я, Виктория и ее муж Янос, венгерско-канадский математик и бывший научный сотрудник МИРИ, были единственными посетителями индийского ресторана на Шаттак-авеню в Беркли – своего рода глухой невообразимой пещеры, где, по-видимому, обслуживали пьяных магистрантов. Виктория говорила, чрезвычайно быстро поедая очень острое блюдо с курицей. Она вела себя вполне уверенно, но слегка отстранено, и, как и Нейт, практически не смотрела в глаза.

– Проблемы экзистенциального риска вписываются в эту ценностную метрику, – уточнила Виктория. – Если рассмотреть возможность уравновешивания интересов будущих людей и интересов уже живущих людей, то снижение вероятности серьезной катастрофы в будущем может стать верным стратегическим решением. Если вы преуспеете в деле спасения человечества от того, что может его уничтожить, это явно превзойдет любую пользу, которую вы могли бы сделать для людей, живущих в настоящее время."

Я затрудняюсь измерить уровень авторской иронии :)

Но, в отличии от него, я стал бы искать людей, которые реально ограничивают возможности ИИ — среди специалистов по компьютерной безопасности. Возможно, многие из них не хотят даже слышать про ИИ, но специфика противостояния с мощными программами, а сейчас уже и с нейросетями, куда больше расскажет об этой проблеме.

Четвертая разновидность — сторонники киборгизации тела. И тут все довольно мрачно. При том, что технические успехи в этой области самые очевидные — ножные протезы, импланты, искусственная роговица глаза, да чего только нет! — желание людей стать кем-то другим прямо сейчас толкает их на всякие глупости. Вот неудачливый самоубийца, который стал на путь радикальной перестройки своего тела (ест слона частями?). Вот рассуждения человека, который говорит, что готов стать хоть марсоходом, родные смирились с этим, только его одиннадцатилетняя дочь просит сохранить лицо, к которому она привыкла.

Я бы сказал, что тут автор слишком радикализировал ту выборку, настроения которой отразил в книге. Технологии стали доступны фрикам. Где-то рядом — витают образы радикальной пластической хирургии, когда люди имплантируют себе рога в тщетной попытке обрести дьявольское очарование. А искать надо среди слепых, мечтающих снова увидеть солнце, среди безруких, примеряющих новые протезы. Вот если бы он подробно рассказал об инвалиде, который колеблется между перемещением на коляске и ходьбой на ножных протезах — при том, что на "ногах" он мало отличим от здорового человека, но на коляске ему удобнее в приспособленной для инвалидов среде — в этом было бы куда больше трансгуманизма, чем в болезненной психике "киборгов".

Автор описывает еще пригоршню разных чудаков, равно как и некую юную особу, которая как примеряет на себя образ медико-техно спасительницы человечества — пока же она получила грант, учредитель которого требует на два года бросить колледж и заняться предпринимательской деятельностью (книга написана в 2016-м, это точно не Грета Тунберг :) ) Но выводы его достаточно предсказуемы. Он хочет жить в настоящем и не станет трансгуманистом, чтобы жить в будущем.

Чем действительно ценна книга — это иллюстрацией смены поколений техно-тусовки. В достаточно богатой среде люди десятилетиями могут использовать созданный артистический образ, несколько броских лозунгов, единственную удачную статью, и все каким-то образом оставаться на плаву. Видны "конкурсы", когда из нескольких типажей будут выбирать кого-то одного, чтобы создать культового персонажа. Есть почти отошедшие от дел люди, которые только и могут, что вспоминать сенсации 80-х. Где тут убеждения, а где способ заработка и привычный образ жизни — можно лишь догадываться.

В бедной среде постсоветского пространства многим приходиться "переобуваться в прыжке", чтобы сохранить поток наличности.

Но парадокс в том, что такая тусовка — нужна. Еще Лем в "Футурологическом конгрессе" пошутил, что ученые делятся на тех, кто сидит по лабораториям, и тех, кто ездит по конгрессам — а на два занятия времени недостаточно. И это ученые, люди со степенями. Среди трансгуманистов очень много пены, но продравшись через неё, люди приходят к серьезным вопросам, кто-то начинает заниматься именно техникой и наукой, а не разговорами про них.

И прочитав эту книгу, вам проще будет оценивать популярные статьи об искусственном интеллекте — вы будете представлять, насколько серьезны их авторы, а насколько "участвуют в кампании против смерти".

Искусственный интеллект перестал быть научной фантастикой и уже сейчас основательно входит в нашу жизнь. Учёные, работая над технологией, заставляют её действовать всё более похоже на настоящий мозг. Компьютеры распознают лица, прогнозируют дорожную ситуацию, предупреждают о проблемах со здоровьем.

Но несмотря на то, что мы видим впечатляющие проекты, доказывающие, что интеграция ИИ делает жизнь удобнее и безопаснее, будущее искусственного интеллекта впереди. Инженеры считают, что нынешний уровень использования ИИ даже близко не отображает весь его потенциал, а индустрия находится в зачатке.

1. Автоматизированный транспорт

Мы свидетели появления автоматического вождения. Да, безопасность ещё требует присутствия человека в салоне, но индустрия растёт и развивается дальше. А теория и практика показывают, что у беспилотных машин много перспектив – робот ошибается реже, чем человек, а значит, его вождение практичнее. Будущее искусственного интеллекта в первую очередь ассоциируют именно с транспортом, который работает на автопилоте.

Пионером отрасли стал Google, специальное отделение которого провалило задачу по роботизированным машинам в 2005 году. Спустя пять лет те же разработчики создали Waymo и попробовали ещё – дело пошло, а интерес к этим технологиям охватил весь мир.

В последние 10 лет в сфере беспилотного автопрома активны все крупные автомобильные и технологические игроки:

• BMW удалось сделать большой рывок благодаря запуску гибридных моделей i3 и i8 в 2013-2014 годах.

• Tesla продвигает сразу два технологических продукта в одном: Помимо обычных электрокаров Tesla, в начале 2018 года Маск презентовал самоуправляемую фуру Tesla Semi.

• Nissan разрабатывает беспилотные автомобили совместно с Renault, возлагая большие надежды на электромобили Leaf.

• Яндекс.Taxi использует беспилотники в Сколково, а недавно сообщил о запуске первого подобного такси в Европе.

2. Киборги

Исследователи считают, что в будущем люди будут использовать компьютеры и роботизированные устройства для сохранения и улучшения способностей тела и мозга. Некоторые разработки будут выпускаться для комфорта, другие же – для возврата важных функций. Например, бионические протезы для людей с ампутированными конечностями.

В этой сфере искусственный интеллект отвечает за то, чтобы помочь мозгу и приборам понять друг друга. Он преобразует входящие сигналы, передаёт информацию о положении конечностей в пространстве и состоянии внешней среды.

• Лидеры биопротезирования – компания Ossur из Исландии создали самостоятельные робопротезы, исследующие окружающую среду, угадывающие действия человека и подстраивающиеся под его поведение.

• Группа Дастина Тайлера из Кливленда занимается разработкой ладонных протезов, чтобы пользователь ощущал предметы и поверхности по-настоящему.

3. Опасная и не только работа

Роботы уже трудятся в местах повышенной опасности, например, обезвреживают бомбы. Правда, это не настоящие роботы, а беспилотные аппараты, которыми надо дистанционно управлять. Будущее искусственного интеллекта предполагает, что они станут принимать решения самостоятельно и действовали независимо от человека.

Но стоит понимать, что для заводов сейчас не критична частичная автономность, если роботы работают в штатных условиях и знают, как себя вести при их нарушении. Для инженеров, создающих подобные инновации – это техническая задача, а не футуристический вызов.

Отдельным направлением развивается экстремальная робототехника. Это аппараты или комплексы, действующие там, где работа для человека опасна или невозможна: в разминировании, военной разведке, подводных исследованиях, космических операциях, горно-разведочной деятельности, спасательных операциях при природных катаклизмах.

4. Климат и окружающая среда

Одна из технологий будущего, в которой применяется ИИ – моделирование климата. Человечество занимается прогнозированием погоды не первое десятилетие, но суперкомпьютеры, большие данные и нейронные сети только сейчас вышли на уровень глубокой работы с этим материалом.

Глубокое понимание климата также затрагивает вопросы безопасности. Искусственный интеллект поможет подготовиться к началу экстремальной бури, многодневным дождям или цунами.

Для защиты окружающей среды при помощи искусственного интеллекта тоже существуют технологии. Сайт Global Fishing Watch показывает рыболовную активность на планете онлайн, тем самым помогая ловить браконьеров. Аналогичный проект Global Forest Watch демонстрирует активность вырубки лесов.

5. Общение и дружба

Современные роботы не способны испытывать чувства. Инженеры говорят, что мы не скоро сможем добиться настоящего взаимопонимания между человеком и машиной. Но уже сейчас некоторые неплохо справляются с расшифровкой эмоций, а будущее искусственного интеллекта определённо усилит тенденцию.

Так, в 2015 году тираж из 1 тысячи социальных-роботов Pepper был распродан в Японии за минуту. Pepper способен поддерживает несложный разговор. Если человек улыбнулся он поймёт, что ему весело. Если он нахмурился — Pepper поймёт, что что-то его беспокоит. Этот робот знает такие эмоции, как радость, удивление, гнев, сомнения и грусть. Он анализирует выражение лица, язык тела и слова человека.

В Наньянгском (Сингапур) Технологическом Университете можно встретить Надин, внешний вид которой позволяет только вблизи понять, что это робот. Надин распознаёт лица и эмоции, поддерживает беседу, самостоятельно создаёт ассоциации для общения, но затрудняется в понимании акцентов и плохо управляет руками.

Искусственный интеллект необходим социальным роботам, чтобы подстраиваться под пользователя и принимать решения в непривычных или экстренных ситуациях. Так, миниатюрный Kirobo Mini от Toyota следит за эмоциями водителя и не даёт заскучать или уснуть за рулём, предлагая музыку, подходящую под настроение.

6. Помощь в старости

Для многих пожилых людей повседневная жизнь – требует помощи со стороны близких. Роботы-ассистенты в этом случае необходимы и могут заменить сиделок.

Пока роботы-ассистенты далеки от идеального представления. Но те функции, которые на них возложены, они готовы выполнять безукоризненно. Они не устают, не отвлекаются и не отклоняются от правил. Возможно, отсутствие эмоций в этом смысле даже преимущество.

Читайте также: