Китайская комната
Dec. 21st, 2012 07:20 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
kaipaНаверное, многие знают этот мысленный эксперимент, но я о нем прочитал впервые. В книге Хоукинса он описан более ярко, чем на википедии, поэтому я перескажу, следуя его изложению.
Представьте себе комнату, в которой стоит стол со стулом, и на столе лежит толстый справочник с инструкциями. В справочнике написаны некоторые инструкции по манипуляции с китайскими иероглифами. Типа, "если иероглиф выглядит так, а следующий за ним -- так, то пишем такой иероглиф на чистом листе". И т.д. Кроме того на столе есть много бумаги, карандаши, ластики и т.д. За столом сидит человек, не знающий китайского, например вы.
Через окошко вам передают несколько листочков с текстом на китайском. И вы, пыхтя и отдуваясь, начинаете по инструкциям их сравнивать, записывать на листочки, стирать, записывать на следующие и т.д., пока инструкция не скажет, что вы закончили. Последний листочек вы передаете обратно.
А за окошком стоит китаец, который написал рассказ и вопросы к нему, и на вашем листочке прочитал ответы, подробные и вдумчивые. Китаец совершенно точно сделает вывод, что вы умеете читать, писать и понимать по-китайски, хотя это, очевидно, совсем не так.
Если вы вдруг не знакомы с этим экспериментом, то в этом месте разумно задать вопрос: а что мы хотим продемонстрировать, собственно?
Этот эксперимент очень сильно напоминает то, как работают большинство компьютерных систем, которые принято называть "интеллектуальными". Справочник с инструкциями -- это программа, человек -- процессор, листочки -- память. Есть иллюзия интеллектуальности, но не более того. Автоматические переводчики не понимаю того, что переводят. Deep Blue обыграл Каспарова, но разбирается в шахматах не больше, чем настольный калькулятор в математике. Эти простые истины многие не понимают.
Основная мысль Хоукинса в том, что надо разрабатывать не искусственный интеллект, даже в самом названии которого отражено его отличие от настоящего, а симулировать как работает реальный, настоящий интеллект. Кстати, примерно это пытался в свое время сделать Ботвинник в своем проекте "Пионер" (тут есть подбор материалов по этому проекту).
Я лет 15 этой темой не интересовался, но похоже что как минимум на середину 2000х прорыва в этой области не было. Все увлеклись "забрасыванием железом". Сейчас уже вроде симулируют довольно крупные нейронные сети, повторяющие нейронные связи участков мозга, но насколько это относится к интеллекту -- трудно сказать. Дочитаю Хоукинса -- поиграюсь с HTM.
Представьте себе комнату, в которой стоит стол со стулом, и на столе лежит толстый справочник с инструкциями. В справочнике написаны некоторые инструкции по манипуляции с китайскими иероглифами. Типа, "если иероглиф выглядит так, а следующий за ним -- так, то пишем такой иероглиф на чистом листе". И т.д. Кроме того на столе есть много бумаги, карандаши, ластики и т.д. За столом сидит человек, не знающий китайского, например вы.
Через окошко вам передают несколько листочков с текстом на китайском. И вы, пыхтя и отдуваясь, начинаете по инструкциям их сравнивать, записывать на листочки, стирать, записывать на следующие и т.д., пока инструкция не скажет, что вы закончили. Последний листочек вы передаете обратно.
А за окошком стоит китаец, который написал рассказ и вопросы к нему, и на вашем листочке прочитал ответы, подробные и вдумчивые. Китаец совершенно точно сделает вывод, что вы умеете читать, писать и понимать по-китайски, хотя это, очевидно, совсем не так.
Если вы вдруг не знакомы с этим экспериментом, то в этом месте разумно задать вопрос: а что мы хотим продемонстрировать, собственно?
Этот эксперимент очень сильно напоминает то, как работают большинство компьютерных систем, которые принято называть "интеллектуальными". Справочник с инструкциями -- это программа, человек -- процессор, листочки -- память. Есть иллюзия интеллектуальности, но не более того. Автоматические переводчики не понимаю того, что переводят. Deep Blue обыграл Каспарова, но разбирается в шахматах не больше, чем настольный калькулятор в математике. Эти простые истины многие не понимают.
Основная мысль Хоукинса в том, что надо разрабатывать не искусственный интеллект, даже в самом названии которого отражено его отличие от настоящего, а симулировать как работает реальный, настоящий интеллект. Кстати, примерно это пытался в свое время сделать Ботвинник в своем проекте "Пионер" (тут есть подбор материалов по этому проекту).
Я лет 15 этой темой не интересовался, но похоже что как минимум на середину 2000х прорыва в этой области не было. Все увлеклись "забрасыванием железом". Сейчас уже вроде симулируют довольно крупные нейронные сети, повторяющие нейронные связи участков мозга, но насколько это относится к интеллекту -- трудно сказать. Дочитаю Хоукинса -- поиграюсь с HTM.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2012-12-21 03:30 pm (UTC)А что значит - "разбирается"?
no subject
Date: 2012-12-21 03:38 pm (UTC)no subject
Date: 2012-12-21 05:12 pm (UTC)И тот факт, что человек внутри коробчки не знает китайского меня бы никак не заботил. Тот, кто динамически поставляет инструкции - знает.
А я общаюсь с коробочкой.
no subject
Date: 2012-12-21 06:34 pm (UTC)no subject
Date: 2012-12-21 10:35 pm (UTC)no subject
Date: 2012-12-24 07:25 am (UTC)В "наружности" наблюдения, кстати, и состоит Тест Тьюринга (http://ru.wikipedia.org/wiki/Тест_Тьюринга), одним из контр-примеров к которому есть Китайская комната.
Другой пример, из недавнего, -- Корчеватель (http://lurkmore.to/Корчеватель).
Во всех случаях суть в том, что манипулируя символами в рамках синтаксических и морфологических правил можно получить семантически правдоподобный текст (в случае с шахматами -- партию). При этом машина "не понимает" семантику, то есть смысл символов, а только их абстрактные взаимосвязи.
no subject
Date: 2012-12-24 07:44 am (UTC)"Представьте, - говорит некто, ну, например, Хоукинг, - сидит мужик в комнате, на все случаи жизни ему пишут инструкции, он их выполняет, все думают, что мужик что-то знает, а это не так. Вот так и большинство систем, которые мы называем интеллектуальными, например, Deep Blue играет в шахматы, а сам в шахматах дуб дубом. Отсюда вывод: нужно симулировать настоящий интеллект, чтобы Deep Blue хорошо разбирался в шахматах".
А я не понимаю, почему, как собственно, из А вытекает B. Если мы действительно будем сильно развиваться в плане искусства писать инструкции - а так сейчас по факту и происходит, если мы всё больше кейсов покроем, пусть даже если заглянуть под капот, а там switch с 10e8 case-ами, и больше ничего - то я не понимаю, почему машина должна что-то "понимать" - в понимаемом нами смысле понимать )
Есть мнение, что мы зайдём в тупик в какой-то момент. Ну то есть без интеллекта в "настоящем" смысле, например, мы достигнем какого-то предела, после которого качество переводов улучшить не сможем. Но это, во-первых, не следует из вашего примера, во-вторых, пока предпосылок бить тревогу нет. Как раз наоборот.
no subject
Date: 2012-12-24 08:54 am (UTC)Пример с переводами. Вы легко поймете любой русский диалект, и, наверное, довольно сносно можете понимать украинский, зная русский. Частично сможете понять даже сербский или болгарский, даже если раньше их не слышали. Соответственно, Вы сможете перевести это на английский. Но никакой автоматический переводчик, который "знает" только русский, с такой задачей не справится. Он "не понимает" межязыковых связей, "не понимает" контекст, то есть вы значение многих слов можете угадать из семантики контекста, что невозможно для современных систем перевода, которые эту семантику "не понимают". Что умеют системы перевода, это просканировать корпус текстов и построить вероятностные модели появления слова в сочетании с одними или другими. Это в некоторых случаях помогает. Но человек контекст именно понимает, а не оценивает вероятностно.
Я тут примерно пересказываю предисловие книги, именно об ущербности метода грубой силы пишет Хоукинг, но я с этим полностью согласен. Пока ничего лучше нет -- это работает. Но опасность в том, и это относится не только к AI, что возможность достаточно дешево масштабировать вычисления задвигает на периферию исследования того, как эти вычисления можно сокращать. Все больше людей склонны скормить задачу тому же хадуповскому кластеру на Амазоне, нежели крепко подумать и написать эффективный алгоритм, не требующий больших вычислений. И т.д.