![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Entry tags:
Китайская комната
Наверное, многие знают этот мысленный эксперимент, но я о нем прочитал впервые. В книге Хоукинса он описан более ярко, чем на википедии, поэтому я перескажу, следуя его изложению.
Представьте себе комнату, в которой стоит стол со стулом, и на столе лежит толстый справочник с инструкциями. В справочнике написаны некоторые инструкции по манипуляции с китайскими иероглифами. Типа, "если иероглиф выглядит так, а следующий за ним -- так, то пишем такой иероглиф на чистом листе". И т.д. Кроме того на столе есть много бумаги, карандаши, ластики и т.д. За столом сидит человек, не знающий китайского, например вы.
Через окошко вам передают несколько листочков с текстом на китайском. И вы, пыхтя и отдуваясь, начинаете по инструкциям их сравнивать, записывать на листочки, стирать, записывать на следующие и т.д., пока инструкция не скажет, что вы закончили. Последний листочек вы передаете обратно.
А за окошком стоит китаец, который написал рассказ и вопросы к нему, и на вашем листочке прочитал ответы, подробные и вдумчивые. Китаец совершенно точно сделает вывод, что вы умеете читать, писать и понимать по-китайски, хотя это, очевидно, совсем не так.
Если вы вдруг не знакомы с этим экспериментом, то в этом месте разумно задать вопрос: а что мы хотим продемонстрировать, собственно?
Этот эксперимент очень сильно напоминает то, как работают большинство компьютерных систем, которые принято называть "интеллектуальными". Справочник с инструкциями -- это программа, человек -- процессор, листочки -- память. Есть иллюзия интеллектуальности, но не более того. Автоматические переводчики не понимаю того, что переводят. Deep Blue обыграл Каспарова, но разбирается в шахматах не больше, чем настольный калькулятор в математике. Эти простые истины многие не понимают.
Основная мысль Хоукинса в том, что надо разрабатывать не искусственный интеллект, даже в самом названии которого отражено его отличие от настоящего, а симулировать как работает реальный, настоящий интеллект. Кстати, примерно это пытался в свое время сделать Ботвинник в своем проекте "Пионер" (тут есть подбор материалов по этому проекту).
Я лет 15 этой темой не интересовался, но похоже что как минимум на середину 2000х прорыва в этой области не было. Все увлеклись "забрасыванием железом". Сейчас уже вроде симулируют довольно крупные нейронные сети, повторяющие нейронные связи участков мозга, но насколько это относится к интеллекту -- трудно сказать. Дочитаю Хоукинса -- поиграюсь с HTM.
Представьте себе комнату, в которой стоит стол со стулом, и на столе лежит толстый справочник с инструкциями. В справочнике написаны некоторые инструкции по манипуляции с китайскими иероглифами. Типа, "если иероглиф выглядит так, а следующий за ним -- так, то пишем такой иероглиф на чистом листе". И т.д. Кроме того на столе есть много бумаги, карандаши, ластики и т.д. За столом сидит человек, не знающий китайского, например вы.
Через окошко вам передают несколько листочков с текстом на китайском. И вы, пыхтя и отдуваясь, начинаете по инструкциям их сравнивать, записывать на листочки, стирать, записывать на следующие и т.д., пока инструкция не скажет, что вы закончили. Последний листочек вы передаете обратно.
А за окошком стоит китаец, который написал рассказ и вопросы к нему, и на вашем листочке прочитал ответы, подробные и вдумчивые. Китаец совершенно точно сделает вывод, что вы умеете читать, писать и понимать по-китайски, хотя это, очевидно, совсем не так.
Если вы вдруг не знакомы с этим экспериментом, то в этом месте разумно задать вопрос: а что мы хотим продемонстрировать, собственно?
Этот эксперимент очень сильно напоминает то, как работают большинство компьютерных систем, которые принято называть "интеллектуальными". Справочник с инструкциями -- это программа, человек -- процессор, листочки -- память. Есть иллюзия интеллектуальности, но не более того. Автоматические переводчики не понимаю того, что переводят. Deep Blue обыграл Каспарова, но разбирается в шахматах не больше, чем настольный калькулятор в математике. Эти простые истины многие не понимают.
Основная мысль Хоукинса в том, что надо разрабатывать не искусственный интеллект, даже в самом названии которого отражено его отличие от настоящего, а симулировать как работает реальный, настоящий интеллект. Кстати, примерно это пытался в свое время сделать Ботвинник в своем проекте "Пионер" (тут есть подбор материалов по этому проекту).
Я лет 15 этой темой не интересовался, но похоже что как минимум на середину 2000х прорыва в этой области не было. Все увлеклись "забрасыванием железом". Сейчас уже вроде симулируют довольно крупные нейронные сети, повторяющие нейронные связи участков мозга, но насколько это относится к интеллекту -- трудно сказать. Дочитаю Хоукинса -- поиграюсь с HTM.
no subject
А что значит - "разбирается"?
(no subject)
no subject
И тот факт, что человек внутри коробчки не знает китайского меня бы никак не заботил. Тот, кто динамически поставляет инструкции - знает.
А я общаюсь с коробочкой.
(no subject)
(no subject)
(no subject)
(no subject)
(no subject)