1. Договоримся об определениях - История изменений

Andrey Fedichkin в 20:58, 8 мая 2025

2025-05-08T20:58:06Z

← Предыдущая версия		Версия от 20:58, 8 мая 2025
Строка 41:		Строка 41:

	Похожая ситуация, как мне кажется, наблюдается и в других дисциплинах. Например, никто всерьёз не назовёт человека, освоившего правило сложения в столбик и способного доказать на школьной доске теорему Пифагора, математиком, хотя арифметика и планиметрия по-прежнему остаются разделами математики и вряд ли это когда-нибудь изменится. А в отношении постоянного роста требований к ИИ я не могу удержаться от цитаты из монолога американского комика Луи Си Кея: «''Люди жалуются на задержки вылетов. Из Нью-Йорка в Калифорнию — пять часов пути. Когда-то это занимало 30 лет. По дороге кто-то умер бы, а кто-то родился. На место прибыла бы совершенно другая группа людей. Сейчас ты посмотришь кино, сходишь на горшок — и уже дома''».		Похожая ситуация, как мне кажется, наблюдается и в других дисциплинах. Например, никто всерьёз не назовёт человека, освоившего правило сложения в столбик и способного доказать на школьной доске теорему Пифагора, математиком, хотя арифметика и планиметрия по-прежнему остаются разделами математики и вряд ли это когда-нибудь изменится. А в отношении постоянного роста требований к ИИ я не могу удержаться от цитаты из монолога американского комика Луи Си Кея: «''Люди жалуются на задержки вылетов. Из Нью-Йорка в Калифорнию — пять часов пути. Когда-то это занимало 30 лет. По дороге кто-то умер бы, а кто-то родился. На место прибыла бы совершенно другая группа людей. Сейчас ты посмотришь кино, сходишь на горшок — и уже дома''».
			<references />
	‎<comments />		‎<comments />

Admin в 18:26, 8 мая 2025

2025-05-08T18:26:02Z

← Предыдущая версия		Версия от 18:26, 8 мая 2025
Строка 41:		Строка 41:

	Похожая ситуация, как мне кажется, наблюдается и в других дисциплинах. Например, никто всерьёз не назовёт человека, освоившего правило сложения в столбик и способного доказать на школьной доске теорему Пифагора, математиком, хотя арифметика и планиметрия по-прежнему остаются разделами математики и вряд ли это когда-нибудь изменится. А в отношении постоянного роста требований к ИИ я не могу удержаться от цитаты из монолога американского комика Луи Си Кея: «''Люди жалуются на задержки вылетов. Из Нью-Йорка в Калифорнию — пять часов пути. Когда-то это занимало 30 лет. По дороге кто-то умер бы, а кто-то родился. На место прибыла бы совершенно другая группа людей. Сейчас ты посмотришь кино, сходишь на горшок — и уже дома''».		Похожая ситуация, как мне кажется, наблюдается и в других дисциплинах. Например, никто всерьёз не назовёт человека, освоившего правило сложения в столбик и способного доказать на школьной доске теорему Пифагора, математиком, хотя арифметика и планиметрия по-прежнему остаются разделами математики и вряд ли это когда-нибудь изменится. А в отношении постоянного роста требований к ИИ я не могу удержаться от цитаты из монолога американского комика Луи Си Кея: «''Люди жалуются на задержки вылетов. Из Нью-Йорка в Калифорнию — пять часов пути. Когда-то это занимало 30 лет. По дороге кто-то умер бы, а кто-то родился. На место прибыла бы совершенно другая группа людей. Сейчас ты посмотришь кино, сходишь на горшок — и уже дома''».
			‎<comments />

Andrey Fedichkin в 21:46, 30 марта 2025

2025-03-30T21:46:20Z

← Предыдущая версия		Версия от 21:46, 30 марта 2025
Строка 1:		Строка 1:
			<span id="договоримся-об-определениях"></span>
	<blockquote>Узнал. Узнал, как обманчива бывает внешняя красота.		<blockquote>Узнал. Узнал, как обманчива бывает внешняя красота.

Andrey Fedichkin: Andrey Fedichkin переименовал страницу Договоримся об определениях в 1. Договоримся об определениях

2025-03-30T21:44:56Z

Andrey Fedichkin переименовал страницу Договоримся об определениях в 1. Договоримся об определениях

← Предыдущая версия	Версия от 21:44, 30 марта 2025
(нет различий)

Andrey Fedichkin в 21:44, 30 марта 2025

2025-03-30T21:44:30Z

← Предыдущая версия		Версия от 21:44, 30 марта 2025
Строка 1:		Строка 1:
	~~= Договоримся об определениях =~~

	<blockquote>Узнал. Узнал, как обманчива бывает внешняя красота.		<blockquote>Узнал. Узнал, как обманчива бывает внешняя красота.

Andrey Fedichkin: Новая страница: «= Договоримся об определениях =
Узнал. Узнал, как обманчива бывает внешняя красота. Смотришь снаружи — вскормленные жёлтыми тюльпанами овцы. А удастся заглянуть глубже — ни жёлтых тюльпанов, ни пищеварительных органов, ни результатов пищеваре...»

2025-03-29T16:26:57Z

Новая страница: «= Договоримся об определениях = <blockquote>Узнал. Узнал, как обманчива бывает внешняя красота. Смотришь снаружи — вскормленные жёлтыми тюльпанами овцы. А удастся заглянуть глубже — ни жёлтых тюльпанов, ни пищеварительных органов, ни результатов пищеваре...»

Новая страница

= Договоримся об определениях =

<blockquote>Узнал. Узнал, как обманчива бывает внешняя красота.

Смотришь снаружи — вскормленные жёлтыми тюльпанами овцы.

А удастся заглянуть глубже — ни жёлтых тюльпанов, ни пищеварительных органов, ни результатов пищеварения — одна лишь пугающая бездонная пустота.

Денис Яцутко. ''Табань!''
</blockquote>
Причина многих ожесточённых и бесплодных споров с давних времён — в том, что спорщики, сами того не замечая, вкладывают в один и тот же термин совершенно разный смысл. Эталонным примером такой ситуации, наверное, можно назвать неутихающие более полувека споры об искусственном интеллекте.

Это понятие, появившись изначально в научной сфере среди специалистов, работавших в области вычислительной техники, довольно быстро просочилось в искусство и поп-культуру, где претерпело весьма причудливые изменения: сейчас представление случайно взятого человека об искусственном интеллекте, скорее всего, основано не на работах учёных, а на фильме «Терминатор».

[[File:image6.jpeg|642x483px]]

Автор термина — Джон Маккарти, американский информатик (и, между прочим, изобретатель языка Lisp) — предложил его на границе 1955–1956 гг. Определение Маккарти звучало следующим образом: «Искусственный интеллект — наука и инженерная деятельность, направленная на создание умных [intelligent] машин»<ref>https://www.sciencedaily.com/terms/artificial_intelligence.htm</ref>. Как часто бывает, название дисциплины стали активно использовать и для обозначения её объекта, то есть самих «умных машин».

На первый взгляд, название, данное создателем, не слишком удачно: его проблема в том, что понятие «умный» само по себе требует определения. Но современникам Маккарти и участникам состоявшейся в 1956 г. первой в истории конференции по искусственному интеллекту всё было более или менее понятно. Дело в том, что исследования в этой области начались задолго до того, как термин появился в его современном виде. В 1950 г. увидела свет статья Алана Тьюринга «Вычислительные машины и разум» (Computing Machinery and Intelligence), содержащая первый детальный анализ вопроса о том, могут ли машины думать. Тремя годами ранее датирована первая дошедшая до нас работа Тьюринга, в которой упоминается «машинный интеллект» [machine intelligence], а вообще, по мнению некоторых исследователей, Тьюринг начал заниматься этим вопросом ещё в 1941 г.<ref>Copeland J. (2003). Moor, James, ed., “The Turing Test”, The Turing Test: The Elusive Standard of Artificial Intelligence, Springer.</ref>

Стюарт Рассел и Питер Норвиг в классической работе «Искусственный интеллект: современный подход» (Artificial Intelligence: A Modern Approach)<ref>Russell S. J., Norvig P. (2016). Artificial Intelligence: A Modern Approach. Pearson // https://books.google.ru/books?id=XS9CjwEACAAJ</ref> классифицируют определения искусственного интеллекта исходя из того, на каких свойствах разрабатываемых систем сделан акцент: на действиях [acting] систем или на воплощённых в них принципах рассуждения [thinking]. Это позволяет Расселу и Норвигу разбить все определения искусственного интеллекта на две группы. Далее, внутри каждой группы, может быть сделан акцент на характере действий (или рассуждений) систем — рациональном [rationally] или человекоподобном [humanly]. Таким образом, Рассел и Норвиг выделяют четыре группы определений. Однако, если приглядеться к приведённым ими примерам из трёх разных групп («[''Автоматизация''] ''действий, которые мы ассоциируем с мыслительным процессом у людей…''»<ref>Bellman R. E. (1978). An Introduction to Artificial Intelligence: Can Computers Think? Boyd & Fraser Publishing Company.</ref>, «''Изучение вопроса о том, как научить компьютеры делать вещи, которые в настоящее время лучше даются людям''», «''Изучение принципов вычислений, которые могут сделать возможным восприятие, рассуждение и действие''»<ref>Winston P. H. (1992). Artificial Intelligence (Third edition). Addison-Wesley.</ref>), можно обнаружить, что они сходятся в одном: искусственный интеллект — это дисциплина, ставящая своей целью создание систем, способных решать интеллектуальные задачи, то есть такие задачи, которые люди традиционно решают при помощи собственного интеллекта. Как выразился Реймонд Курцвейл: «''Искусство создания машин, выполняющих функции, требующие интеллекта в случаях, когда их выполняют люди''»<ref>Kurzweil R. (1990). The Age of Intelligent Machines. MIT Press.</ref>. Некоторые авторы не могут остановиться на этом и вступают на скользкую дорогу перечисления: «[''Автоматизация''] ''действий, которые мы ассоциируем с мыслительным процессом у людей, таких как принятие решений, решение задач, обучение''…»<ref>Bellman R. E. (1978). An Introduction to Artificial Intelligence: Can Computers Think? Boyd & Fraser Publishing Company.</ref>

Разумной альтернативой сложившейся практике определения понятия искусственного интеллекта кажется попытка определения понятия «интеллект», но этот подход по сути представляет собой попытку построения множества, основанную лишь на одном бесспорно установленном элементе — человеческом интеллекте. Неясно, какие именно его признаки являются критически важными для того, чтобы приписать наличие интеллекта объекту, не являющемуся человеком. Способность обучаться, наличие сознания?..

Ответы на эти вопросы пытается дать стоящий некоторым особняком от других агентно-ориентированный подход, в основе которого лежит не понятие интеллектуальной задачи, а понятие интеллектуального или рационального агента: «''интеллектуальный агент — любое устройство, которое воспринимает своё окружение и осуществляет действия, максимизирующие шансы успешного достижения его целей''», а «''вычислительный интеллект (computational intelligence)'' (синоним понятия «искусственный интеллект». — ''С. М.'') — ''изучение принципов создания интеллектуальных агентов''»<ref>Poole D., Mackworth A., Goebel R. (1998). Computational Intelligence: A Logical Approach. New York: Oxford University Press.</ref>. Или вот как это сформулировано у Рассела и Норвига: «''Агент — это просто нечто, что осуществляет действия (слово происходит от лат. agere, что значит делать). Конечно, все компьютерные программы выполняют какие-то действия, но вычислительные агенты делают большее: оперируют автономно, воспринимают своё окружение, существуют в течение длительного промежутка времени, адаптируются к изменениям, ставят и преследуют цели. Рациональный агент — нечто (некто), что (кто) действует для достижения наилучшего результата или, при наличии неопределённости, наилучшего ожидаемого результата''»<ref>Russell S. J., Norvig P. (2016). Artificial Intelligence: A Modern Approach. Pearson // https://books.google.ru/books?id=XS9CjwEACAAJ</ref>. Вот что такое агент, а вовсе не умничающий Хьюго Уивинг<ref><sup>*</sup> Исполнитель роли агента Смита в фильме «Матрица» (1999).</ref> в чёрных очках и костюме офисного работника.

В общем, сторонники стоящего немного особняком агентно-ориентированного подхода, по сути, выделяют следующие необходимые свойства объекта, обладающего интеллектом: наличие восприятия, наличие целей, способность действовать рационально, то есть выполнять действия, способствующие достижению цели. Рассел и Норвиг добавляют ещё несколько качеств: способность адаптироваться, длительное существование. Лично я против подобных дополнений, так как они, по-моему, лишь увеличивают неопределённость. Начиная с какой секунды жизни начинается «длительное существование»? Можно ли сказать, что запорожец, въехавший под БелАЗ, в некотором роде адаптировался, изменив форму кузова?

Легко заметить, что определение интеллекта, неявно данное сторонниками агентно-ориентированного подхода, описывает нечто существенно более широкое, чем человеческий интеллект. Если бы животные или даже растения были компьютерными программами, мы неизбежно должны были бы отнести их к области искусственного интеллекта.

Как мне кажется, агентно-ориентированный подход делает понятие искусственного интеллекта ещё более неопределённым, поэтому в книге я буду придерживаться более классического определения: искусственный интеллект (далее — ИИ, AI, Artificial Intelligence) — область науки и технологии, занимающаяся автоматизацией решения интеллектуальных задач. При этом я осознанно принимаю риск того, что в отношении некоторых задач степень их интеллектуальности может вызывать споры, однако полезность этих споров, на мой взгляд, не превышает полезности приписываемых средневековым схоластам споров о том, сколько ангелов может поместиться на кончике швейной иглы. По мере того как машины справляются со всё большим и большим количеством интеллектуальных задач, общепринятое представление о том, что относится, а что не относится к последним, постепенно меняется. В конце концов, сложение и вычитание чисел в уме человек тоже осуществляет при помощи собственного интеллекта, и ещё 300–400 лет назад машина, способная выполнять арифметические операции, была настоящим чудом техники. Сегодня же этим уже никого не удивишь. В 1960-е мы мечтали о машинах, способных выигрывать у сильнейших шахматных игроков, и если в те времена вы бы спросили обывателя: является ли системой искусственного интеллекта машина, способная выиграть в шахматы у чемпиона мира, то почти наверняка получили бы утвердительный ответ. Сегодня многие люди лишь брезгливо поморщатся при упоминании шахматных программ: подумаешь, не очень-то это интеллект, просто быстрый перебор вариантов! Несколько лет назад к этой тираде, весьма вероятно, добавилось бы рассуждение об игре го: вот когда машины смогут обыграть чемпиона мира по го, тогда и посмотрим! Интересно будет понаблюдать за тем, какая из сложных интеллектуальных задач теперь, после успехов AlphaGo и AlphaZero, займёт в массовом сознании место достойной истинного ИИ.

Это явление массового сознания с лёгкой руки писательницы и специалистки по истории ИИ Памелы Маккордак получило наименование «эффект ИИ».

[[File:image7.jpeg|583x344px]]

Рис. 1. Эффект ИИ

«''…Каждый раз, когда кто-то находил способ научить компьютер что-то делать — хорошо играть в шашки, решать простые, но относительно неформальные задачи, — раздавался хор критиков, заявлявших, что это не мышление''», — пишет Маккордак. То есть некоторые люди полагают, что как только ИИ успешно решает ту или иную задачу, она тут же перестаёт относиться к области ИИ. Маккордак называет «странным парадоксом» тот факт, что «''практические успехи ИИ, программы, которые достигали разумного поведения, быстро входили в состав прикладных областей, где они оказывались полезными, становились молчаливыми помощниками наряду с другими подходами к решению задач, оставляя исследователей в области ИИ в компании одних лишь'' „''неудач''“'', крепких орешков, которые ещё не удалось расколоть''»<ref>McCorduck P. (2004). Machines who think: a personal inquiry into the history and prospects of artificial intelligence. A. K. Peters // https://books.google.ru/books?id=aH9QAAAAMAAJ</ref>.

Как говорит австралийский робототехник и исследователь ИИ Родни Брукс: «''Каждый раз, когда мы понимаем что-либо, оно перестаёт быть магией, и мы говорим:'' „''О, это просто вычисление''“»<ref>Kahn J. (2002). It's Alive! / Wired, 03.01.2002 // https://www.wired.com/2002/03/everywhere/</ref>. Ларри Теслеру приписывают изобретение «теоремы Теслера»: «''ИИ — это то, что ещё не создано''» [Artificial Intelligence is whatever hasn’t been done yet]<ref>Hofstadter D. R. (2000). Gödel, Escher, Bach: An Eternal Golden Braid. Penguin // https://books.google.ru/books?id=grzEQgAACAAJ</ref>. Впрочем, сам Теслер утверждает, что это неточная цитата. В действительности он говорил, что «''интеллект — это всё то, что машины пока не умеют делать''» (Intelligence is whatever machines haven’t done yet)<ref>Tesler L. CV: Adages & Coinages // http://www.nomodes.com/Larry_Tesler_Consulting/Adages_and_Coinages.html</ref>. Так или иначе, следует признать мудрость человека, который подарил человечеству клавиатурные сочетания Ctrl + C и Ctrl + V.

Похожая ситуация, как мне кажется, наблюдается и в других дисциплинах. Например, никто всерьёз не назовёт человека, освоившего правило сложения в столбик и способного доказать на школьной доске теорему Пифагора, математиком, хотя арифметика и планиметрия по-прежнему остаются разделами математики и вряд ли это когда-нибудь изменится. А в отношении постоянного роста требований к ИИ я не могу удержаться от цитаты из монолога американского комика Луи Си Кея: «''Люди жалуются на задержки вылетов. Из Нью-Йорка в Калифорнию — пять часов пути. Когда-то это занимало 30 лет. По дороге кто-то умер бы, а кто-то родился. На место прибыла бы совершенно другая группа людей. Сейчас ты посмотришь кино, сходишь на горшок — и уже дома''».