Проблемы искусственного интеллекта кратко

Обновлено: 05.07.2024

Известно, что в 2020 году, отмечает автор, до 20 процентов прибыли было получено компаниями благодаря искусственному интеллекту (ИИ). Но система эта всё равно имеет некоторые минусы. О них - ниже.

Кроме того, база данных ИИ сама по себе может быть некачественной или испорченной. Если говорить кратко, то из-за ограниченного числа данных искусственный интеллект не способен делать выводы об объективной реальности - он создаёт свою реальность. А из-за того, что базы данных строятся на информации о прошлом, с прогнозами у системы тоже довольно плохо. Решить данную проблему способны цифровые двойники.

Машинное обучение работает не так, как человеческий мозг. Из-за этого обмануть его довольно просто. К примеру, если вспомнить технологию распознавания изображений, то в этом случае машина распознаёт не само по себе лицо как явление, а набор пикселей, который чаще всего указывает на наличие лица на картинке. Пока ещё не придумали способ решить эту проблему раз и навсегда, но есть несколько предположений на этот счёт: расширение базы обучения и исправление ошибок; обучение двух ИИ друг друга; обучение ИИ понятиям пространства, времени и т.п. В последнем случае разработчики ещё не придумали, каким образом можно связать данные понятия с набором пикселей.

Также ИИ бывает нелегко понять. Иногда отследить логическую цепочку, в соответствии с которой система делает выводы, тяжело. Так, ИИ Deep Patient, внедрённый в 2015 году в США, мог точно диагностировать шизофрению, в то время как самим медикам это удавалось с трудом.

Никто не может предсказать, как поведут себя системы, созданные с помощью совершенного искусственного интеллекта. Тем не менее предположений много, рассмотрим в чем же заключается проблема искусственного итнеллекта.

Философская проблема искусственного интеллекта

Основная философская проблема в области искусственного интеллекта заключается в доведении возможности и целесообразности моделирования процесса мышления человека. Существует опасность тратить время на изучение того, что невозможно создать, в частности, на современном этапе развития человечества.

Примером подобного времяпрепровождения может быть занятие научным коммунизмом - наукой, что на протяжении десятилетий изучала то, чего нет, и в обозримом будущем быть не может. Рассмотрим ряд доказательств, которые подводят к положительному ответу на вопрос возможности создания искусственного интеллекта.

Второй довод вытекает из успехов человечества, достигнутых в области создания нового разума биологическим путем. В 90-х годах прошлого столетия появилась возможность клонирования млекопитающих, начиная с овечки Долли. Дальнейшие достигнутые успехи в данном направлении заключаются в создании форм искусственной жизни, не имеющие никакого естественного экземпляра, к которому бы они были похожи.

Например, кролики с дополнительным геном, что создает эффект светлячка. В отличие от клонов, эти формы в полной мере представляют собой искусственную жизнь. Вместе с тем, такие существа можно считать интеллектуальными, учитывая их способности к элементарному обучению.

Поэтому они могут называться системами искусственного интеллекта, хотя несотворенным на основе использования средств вычислительной техники, которые представляют наибольший интерес для человечества.

Третий довод - это доказательство возможности самовоспроизведения объектов, состоящих из неживой материи. Способность к самовоспроизводству, как признак наличия интеллекта, долгое время считалась прерогативой живых организмов.

Однако некоторые явления, происходящие в неживой природе, например, рост кристаллов, синтез сложных молекул через копирования, во многом идентичны самовоспроизводству.

Исследование искусственного интеллекта

На сегодня, существует много различных неформальных доказательств возможности самовоспроизведения объектов, но для программистов наиболее существенный довод заключается в существовании компьютерных вирусов.

Четвертое доказательство - это существование принципиальной возможности автоматизации решения интеллектуальных задач с помощью вычислительной техники. Она обеспечивается ее свойством алгоритмической универсальности.

Алгоритмическая универсальность вычислительных машин означает, что на них можно программно реализовывать любые алгоритмы преобразования информации: вычислительные алгоритмы, алгоритмы управления, поиска доказательства теорем и т.д.

При этом, подразумевается, что процессы, порождаемые этими алгоритмами, являются потенциально осуществимыми, то есть, что они осуществляются в результате проведения конечного количества элементарных операций.

Практическая реализация алгоритмов зависит от существующих вычислительных мощностей, которые изменяются с развитием техники. В частности, вследствие появления быстродействующих компьютеров, стало практически возможным создание программных систем, способных реализовывать такие алгоритмы, которые ранее считались лишь потенциально осуществимыми.

Для обозначения программных систем, использующих искусственный интеллект, сложился общий срок - интеллектуальная система. Целесообразность создания интеллектуальных систем заключается в необходимости решения задач, которые не решаются на достаточном уровне эффективности программными системами, созданными на жесткой алгоритмической основе. К таким задачам относятся задачи, имеющие, как правило, следующие особенности:

у них неизвестный алгоритм решения - такие задачи носят названия интеллектуальных задач;
в них используется, помимо традиционных форматов данных, информация в виде графических изображений, рисунков, звуков;
в них предполагается наличие свободы выбора - то есть, отсутствие единого алгоритма решения задачи обусловливает необходимость сделать выбор между вариантами действий в условиях неопределенности.

Приведенный перечень задач формирует особенности интеллектуальных систем, предназначенных для их решения. Источником такого определения особенностей фактически является известный тест Тьюринга, предложенный британским математиком и одним из первых исследователей в области компьютерных наук Аланом Тьюрингом (Alan Turing).

В наши дни стало очевидным, что ни один из методов искусственного интеллекта не позволяет успешно решить приемлемое количество задач - лучше проявляет себя использование комбинации методов.

Первая программа, прошедшая тест Тьюринга, была написана в ходе проведения психологических экспериментов Стивеном Вейценбаум (Steven Weizenbaum) в 1967 году. С тех пор уровень знаний в этой области значительно возрос, а способы взаимодействия экспериментатора с объектом исследования стали гораздо совершеннее.

Не следует думать, что интеллектуальные системы могут, решать любые задачи. Математиками было доказано существование таких типов задач, для которых невозможен единый алгоритм, чтобы воспроизводил их эффективные решения.

В этом контексте определяется невозможность решения задач такого типа с помощью интеллектуальных систем, разработанных для вычислительных машин. Кроме того, утверждение про алгоритмическую невозможность решения некоторого класса задач является одновременно и прогнозом на будущие времена, согласно которому алгоритмы их решения не будут найдены никогда.

Этот факт способствует лучшему пониманию того, где в современном мире могут найти свое практическое применение системы искусственного интеллекта.

В частности, для решения задачи, не имеет универсального алгоритма решения, целесообразно ее сужение до уровня, когда она решается только для определенного подмножества начальных условий. Такие решения по силам интеллектуальным системам, а их результат способен сузить, для человека, область вариантов интуитивного выбора.

Понятие искусственного интеллекта многогранно. Но несколько наиболее важных аспектов все же можно выделить. Во-первых, это вопрос о том, что такое искусственный интеллект, ведь определение понятия обусловливает предмет, цель, методы, успешность исследования. Во-вторых, интеллект подразумевает обработку информации, поэтому важной является проблема представления знаний в системах искусственного интеллекта. В-третьих, существовали и существуют различные подходы к решению вопросов, связанных с созданием интеллектуальных систем, и их рассмотрение проливает свет на многие аспекты проблемы. В-четвертых, огромное значение имеет обеспечение взаимодействия систем искусственного интеллекта с человеком на естественном языке, так как при этом значительно облегчается ведение диалога с ними.

Несмотря на то, что, по мнению некоторых ученых, искусственный интеллект принципиально невозможен, разработки в области создания систем искусственного интеллекта являются в настоящее время одним из приоритетных направлений в науке.

Понятие "искусственный интеллект" вкладывается различный смысл - от признания интеллекта у ЭВМ, решающих логические или даже любые вычислительные задачи, до отнесения к интеллектуальным лишь тех систем, которые решают весь комплекс задач, осуществляемых человеком, или еще более широкую их совокупность.

В исследованиях по искусственному интеллекту ученые отвлекаются от сходства процессов, происходящих в технической системе или в реализуемых ею программах, с мышлением человека. Если система решает задачи, которые человек обычно решает посредством своего интеллекта, то мы имеем дело с системой искусственного интеллекта.

Однако это ограничение недостаточно. Создание традиционных программ для ЭВМ- работа программиста - не есть конструирование искусственного интеллекта. Какие же задачи, решаемые техническими системами, можно рассматривать как конституирующие искусственный интеллект?

Чтобы ответить на этот вопрос, надо уяснить, прежде всего, что такое задача. Как отмечают психологи, этот термин тоже не является достаточно определенным. По-видимому, в качестве исходного можно принять понимание задачи как мыслительной задачи, существующее в психологии. Они подчеркивают, что задача есть только тогда, когда есть работа для мышления, т. е. когда имеется некоторая цель, а средства к ее достижению не ясны; их надо найти посредством мышления.

Так понимаемая задача, в сущности, тождественна проблемной ситуации, и решается она посредством преобразования последней. В ее решении участвуют не только условия, которые непосредственно заданы. Человек использует любую находящуюся в его памяти информацию, "модель мира", имеющуюся в его психике и включающую фиксацию разнообразных законов, связей, отношений этого мира.

Если задача не является мыслительной, то она решается на ЭВМ традиционными методами и, значит, не входит в круг задач искусственного интеллекта. Ее интеллектуальная часть выполнена человеком. На долю машины осталась часть работы, которая не требует участия мышления, т. е. "бессмысленная", неинтеллектуальная.

Под словом "машина" здесь понимается машина вместе с ее совокупным математическим обеспечением, включающим не только программы, но и необходимые для решения задач "модели мира". Недостатком такого понимания является главным образом его антропоморфизм. Задачи, решаемые искусственным интеллектом, целесообразно определить таким образом, чтобы человек, по крайней мере, в определении отсутствовал. Основная функция мышления заключается в выработке схем целесообразных внешних действий в бесконечно варьирующих условиях. Специфика человеческого мышления (в отличие от рассудочной деятельности животных) состоит в том, что человек вырабатывает и накапливает знания, храня их в своей памяти. Выработка схем внешних действий происходит не по принципу "стимул - реакция", а на основе знаний, получаемых дополнительно из среды, для поведения в которой вырабатывается схема действия.

Этот способ выработки схем внешних действий (а не просто действия по командам, пусть даже меняющимся как функции от времени или как однозначно определенные функции от результатов предшествующих шагов) является существенной характеристикой любого интеллекта. Отсюда следует, что к системам искусственного интеллекта относятся те, которые, используя заложенные в них правила переработки информации, вырабатывают новые схемы целесообразных действий на основе анализа моделей среды, хранящихся в их памяти. Способность к перестройке самих этих моделей в соответствии с вновь поступающей информацией является свидетельством более высокого уровня искусственного интеллекта.

Большинство исследователей считают наличие собственной внутренней модели мира у технических систем предпосылкой их "интеллектуальности". Формирование такой модели связано с преодолением синтаксической односторонности системы, т.е. с тем, что символы или та их часть, которой оперирует система, интерпретированы, имеют семантику.

Характеризуя особенности систем искусственного интеллекта, специалисты указывают на:

1) наличие в них собственной внутренней модели внешнего мира; эта модель обеспечивает индивидуальность, относительную самостоятельность системы в оценке ситуации, возможность семантической и прагматической интерпретации запросов к системе;

2) способность пополнения имеющихся знаний;

3) способность к дедуктивному выводу, т.е. к генерации информации, которая в явном виде не содержится в системе; это качество позволяет системе конструировать информационную структуру с новой семантикой и практической направленностью;

4) умение оперировать в ситуациях, связанных с различными аспектами нечеткости, включая "понимание" естественного языка;

5) способность к диалоговому взаимодействию с человеком;

6) способность к адаптации.

На вопрос, все ли перечисленные условия обязательны, необходимы для признания системы интеллектуальной, ученые отвечают по-разному. В реальных исследованиях, как правило, признается абсолютно необходимым наличие внутренней модели внешнего мира, и при этом считается достаточным выполнение хотя бы одного из перечисленных выше условий.

Критерий Тьюринга в литературе был подвергнут критике с различных точек зрения. Действительно серьезный аргумент против этого критерия заключается в том, что в подходе Тьюринга ставится знак тождества между способностью мыслить и способностью к решению задач переработки информации определенною типа. Успешная "игра в имитацию" не может без тщательного предварительного анализа мышления как целостности быть признана критерием способности машины к мышлению.

Однако этот аргумент бьет мимо цели, если мы говорим не о мыслящей машине, а об искусственном интеллекте, который должен лишь продуцировать физические тела знаков, интерпретируемые человеком в качестве решений определенных задач. Поэтому прав В.М. Глушков, утверждая, что наиболее естественно, следуя Тьюрингу, считать, что некоторое устройство, созданное человеком, представляет собой искусственный интеллект, если, ведя с ним достаточно долгий диалог по более или менее широкому кругу вопросов, человек не сможет различить, разговаривает он с разумным живым существом или с автоматическим устройством. Если учесть возможность разработки программ, специально рассчитанных на введение в заблуждение человека, то, возможно, следует говорить не просто о человеке, а о специально подготовленном эксперте. Этот критерий, на взгляд многих ученых, не противоречит перечисленным выше особенностям системы искусственного интеллекта.

Теория искусственного интеллекта при решении многих задач сталкивается с гносеологическими проблемами.

Одна из таких проблем состоит в выяснении вопроса, доказуема ли теоретически (математически) возможность или невозможность искусственного интеллекта. На этот счет существуют две точки зрения. Одни считают математически доказанным, что ЭВМ в принципе может выполнить любую функцию, осуществляемую естественным интеллектом. Другие полагают в такой же мере доказанным математически, что есть проблемы, решаемые человеческим интеллектом, которые принципиально недоступны ЭВМ. Эти взгляды высказываются как кибернетиками, так и философами.

Знание - основа интеллектуальной системы

Многие виды умственной деятельности человека, такие, как написание программ для вычислительной машины, занятие математикой, ведение рассуждений на уровне здравого смысла и даже вождение автомобиля - требуют "интеллекта". На протяжении последних десятилетий было построено несколько типов компьютерных систем, способных выполнять подобные задачи.

Имеются системы, способные диагностировать заболевания, планировать синтез сложных синтетических соединений, решать дифференциальные уравнения в символьном виде, анализировать электронные схемы, понимать ограниченный объем человеческой речи и естественного языкового текста. Можно сказать, что такие системы обладают в, некоторой степени, искусственным интеллектом.

Работа по построению таких систем проводится в области, получившей название искусственный интеллект (ИИ).

При реализации интеллектуальных функций непременно присутствует информация, называемая знаниями. Другими словами, интеллектуальные системы являются в то же время системами обработки знаний.

Характеризуя особенности систем искусственного интеллекта, специалисты указывают на:

2) способность пополнения имеющихся знаний;

5) способность к диалоговому взаимодействию с человеком;

6) способность к адаптации.

Теория искусственного интеллекта при решении многих задач сталкивается с гносеологическими проблемами.

Знание - основа интеллектуальной системы

Работа по построению таких систем проводится в области, получившей название искусственный интеллект (ИИ).

В неспокойный 2020 год до 20% прибыли компаний в разных секторах экономики принес искусственный интеллект (ИИ), по опросам McKinsey. Однако чем шире внедряется эта технология, тем зримее трудности на пути её разработчиков. Почему ИИ отучают от расизма и хейтспича, как нейросеть заставляют перестать думать о прошлом, зачем разработчикам ИИ гуманитарный ликбез и сколько реального углекислого газа выбрасывает в атмосферу виртуальный чатбот? Рассказываем о четырёх главных проблемах искусственного интеллекта.

Ты — то, что ты ешь: почему ИИ легко научить плохому

Сбор информации — это априори отбор, то есть одни факты включаются в базу, а другие — игнорируются. Поэтому ИИ по определению мыслит индуктивно, а не дедуктивно, то есть на основе множества частных случаев он делает генеральный вывод. Иногда ошибочный.

Базы данных для машинного обучения иногда низкокачественные или испорченные. В 2016 году Twitter запустила чатбота по имени Тэй с аватаркой и манерами 19-летней американки, чтобы тот общался с пользователями сети. Всего за сутки чатбота научили дурному — Тэй превратилась в расиста и сексиста, а также призвала построить стену на границе США и Мексики за счёт последней.

Но даже если первыми собеседниками Тэй стали бы членкоры РАН, он(а) все равно был(а) бы ограниченным персонажем, так как черпал(а) информацию и модели поведения у своих собеседников.

Как сказал бы членкор РАН, искусственный интеллект не способен делать четкие, позитивистски интерпретируемые выводы об объективной реальности. Вместо этого он создает свою реальность, которая служит основой для ограниченных выводов.

Ещё одна проблема базы данных для обучения ИИ — работа с прошлым. БД основаны на исторических данных, поэтому искусственный интеллект практически обречен на ошибки экстраполяции. Говоря проще, ИИ хороший историк, но не столь же хороший прогнозист.

Пример из практики: 2019 год, США, в медучреждениях и страховых компаниях специальный алгоритм ИИ находит пациентов с хроническими заболеваниями, которым больше других нужно особое внимание сестринского персонала. Однако выясняется, что ИИ находит чернокожих пациентов реже, чем белых. Алгоритм анализирует расходы пациентов на медобслуживание, не делая различий между черными и белыми. Но на практике расходы более больных чернокожих пациентов равняются расходам более здоровых белых пациентов. Первым приходилось больше тратиться из-за плохого здоровья (следствие низкого уровня жизни), а вторые могли больше тратиться благодаря высоким доходам. То есть чернокожим пациентам все-таки чаще требовалось внимание врачей, чем белым, но ИИ этого не понимал.

Решить проблему экстраполяции могут цифровые двойники исследуемых систем и явлений. К примеру, в 2018 году компания Toshiba создала цифрового двойника для оживленного направления Лондон — Кембридж британской железной дороги Greater Anglia. Перевозчику понадобилось новое расписание, учитывающее все пики и спады нагрузки на маршрут. Обычно для этого брали исторически данные, но в этот раз железнодорожники решили опираться на информацию от цифрового двойника. На нём железнодорожники испытывали изменения в расписании и искали способы повысить пунктуальность — и всё это так, чтобы не навредить реальным пассажирам, если принятые решения окажутся неэффективны.

Киберфизические системы устраняют или снижают зависимость ИИ от устаревших данных, поставляя ему сведения в реальном времени. Источник: Toshiba Digital Solution Corporation

Что в черном ящике: почему ИИ банальный и непостижимый одновременно

Вторая проблема ИИ — машинное обучение работает не так, как мозг человека, поэтому его легко обмануть, но иногда невозможно понять.

В 2013 году исследователи из Google создали картинки с одинаковыми изображениями, но с измененными цветами отдельных пикселей. Для человека они были идентичными, но нейросеть спутала панду с гиббоном, а ленивца — с гоночной машиной. Также ученые создавали совершенно абстрактные для человека изображения, которые нейросеть распознавала как королевского пингвина и ската.

Хотя ИИ легко обмануть, иногда его трудно понять. Чем сложнее машинное обучение, тем труднее создателю ИИ проследить логическую цепочку, по которой вводные данные движутся через миллионы нейронов к выводам. Это называется проблемой черного ящика.

В 2015 году в американских клиниках и больницах внедрили ИИ Deep Patient, который натренировался на историях болезни 700 тыс. пациентов прогнозировать заболевания, в том числе рак. Среди прочего у Deep Patient очень хорошо получалось прогнозировать развитие психических заболеваний, к примеру, шизофрении, хотя для самих врачей это всегда было труднейшей задачей. В то же время ни врачи, ни создатели ИИ так и не смогли понять, по каким признакам Deep Patient точно вычислял будущих шизофреников. Вопрос о законности лечения на основе диагноза, который был получен загадочным образом, пока открыт.

Отцы и дети: зачем ИИ нужны гуманитарии и совесть

Третья проблема ИИ: такие системы неизбежно несут на себе отпечаток мышления и ценностей их создателей.

Непонимание гуманитарного контекста порождает этические проблемы.

Программисты могут их проигнорировать, а сам искусственный интеллект синдромом Оппенгеймера—Сахарова (чувство вины перед человечеством отцов соответственно атомной и водородной бомб) не страдает . Так, в 2019 году группа ученых написала письмо в издательство Wiley с просьбой удалить статью, в которой авторы рассказывали об испытаниях ИИ-системы распознавания лиц уйгуров в Китае. По данным ООН, эта этноконфессиональная группа систематически притесняется властями КНР. Алгоритмы ИИ успешно отличали лица уйгуров от корейцев и жителей Тибета. Авторы письма осудили ученых, которые работали над статьей и, собственно, алгоритмами ИИ. Возник вопрос: насколько этично пользоваться масштабными базами изображений людей, которые не давали на это своего согласия и могут быть поражены в правах. Журнал Nature провел опрос среди ученых, работающих с искусственным интеллектом, — только 47% ученых из Китая посчитали неэтичным использование изображения лиц, тогда как в США и Европе таких специалистов было более 73%.

Коллаж изображений из базы данных Mega Face. Источник: Adam Harvey / megapixels.cc

В коммерческом секторе этические вопросы разработчиков ИИ также волнуют. В 2018 году Google на фоне протестов сотрудников отказалась сотрудничать с Пентагоном в проекте Maven. Разработчики посчитали, что их алгоритмы могут использовать для летального оружия, и потребовали от руководства отказаться от контракта с военными, что и было сделано. Спустя неделю компания опубликовала манифест с этическими установками в работе с искусственным интеллектом. Сейчас насчитывается порядка 84 подобных документов, которыми руководствуются программисты ИИ в разных корпорациях и учреждениях по всему миру. Впрочем, Пентагон позже объявил призыв на работу в свой Центр исследований ИИ среди работников Кремниевой долины и нашёл нужных специалистов.

Механический турок: почему ИИ основан на ручном труде и вредит экологии

На первый взгляд искусственный интеллект — это нематериальный продукт. На самом же деле — и это четвертая проблема — за успехом ИИ стоят миллионы компьютерных чернорабочих и сотни метрических тонн углекислого газа.

Разработчики ИИ размещают заказы на сбор или обработку разных данных на краудсорсинговых платформах в сети (Amazon Mechanical Turk, Clickworkers и т.п.). Участники платформы со всего мира соглашаются или отклоняют его. К примеру, платформа Clickworker предлагают услуги 2,8 млн человек из разных стран (преимущественно Северной Америки и Европы), которые создают обучающие данные, ищут и собирают фотографии, аудио- и видеозаписи, аннотируют и атрибутируют тексты, фильтруют электронную почту и т. п.

Искусственный интеллект затратен с точки зрения не только человеческих, но и природных ресурсов, что прямо влияет на его углеродный след. По данным исследователей из Беркли и компании Google, GPT-3 — самая мощная и продвинутая языковая модель в мире — за время обучения производит эквивалент 552 метрических тонн углекислого газа. Столько же в течение года при езде выделяют 120 легковых автомобилей с ДВС. Менее сложные системы также оставляют большой углеродный след. Продвинутый чат-бот Google Meena при чтении 340 ГБ текстов произвела 96 метрических тонн углекислого газа — столько же год выделяют 17 домовладений.

Подведем итог: какие из перечисленных проблем ИИ принципиально не разрешимые?

Искусственный интеллект всегда будет конструировать, а не воспроизводить реальность. Эту черту мышления он наследует у своего создателя — человека. Сверхразум, который может объять и осмыслить реальность во всем её многообразии, — пока научная фантастика.

На искусственный интеллект прямо влияют предположения, взгляды и ценности, отраженные в базах данных, на которых он учится, и в алгоритмах, которые в нём заложены. Искусственный интеллект никогда не будет нейтральным и объективным.

Искусственный интеллект никогда не будет полностью виртуальным и автономным. Для его работы требуются материальные и людские ресурсы.

Однако другие препятствия на пути развития ИИ можно если не преодолеть полностью, то нивелировать: расширять базу обучения, бороться за прозрачность алгоритмов ИИ, расширять гуманитарную грамотность разработчиков и переводить системы ИИ на возобновляемые источники энергии.

Читайте также: