Actions
(31.35 KB, 778x960)
http://www.incompleteideas.net/IncIdeas/BitterLesson.html > Самый большой урок, который можно извлечь из 70 лет исследований в области ИИ, заключается в том, что общие методы, использующие вычисления, в конечном итоге являются наиболее эффективными, причем с большим отрывом. Конечной причиной этого является закон Мура, а точнее, его обобщение о продолжающемся экспоненциальном снижении стоимости единицы вычислений. Большинство исследований в области ИИ проводилось так, как если бы вычисления, доступные агенту, были постоянными (в этом случае использование человеческих знаний было бы одним из единственных способов повышения производительности), но в течение времени, немного превышающего обычный исследовательский проект, неизбежно становится доступно гораздо больше вычислений. Стремясь к улучшению, которое изменит ситуацию в краткосрочной перспективе, исследователи пытаются использовать человеческие знания в данной области, но единственное, что имеет значение в долгосрочной перспективе, - это использование вычислений. Эти две задачи не обязательно должны противоречить друг другу, но на практике это происходит. Время, потраченное на одно, - это время, не потраченное на другое. Существуют психологические привязанности к инвестициям в тот или иной подход. А подход, основанный на человеческих знаниях, имеет тенденцию усложнять методы таким образом, что они становятся менее пригодными для использования преимуществ общих методов, использующих вычисления. > Это важный урок. Как область, мы все еще не усвоили его до конца, поскольку продолжаем совершать одни и те же ошибки. Чтобы увидеть это и эффективно противостоять этому, мы должны понять силу притягательности этих ошибок. Мы должны усвоить горький урок, что встраивать в алгоритмы то, как мы думаем – не работает в долгосрочной перспективе. Этот горький урок основан на исторических наблюдениях: 1) исследователи ИИ часто пытались встроить знания в своих агентов, 2) это всегда помогает в краткосрочной перспективе и приносит личное удовлетворение исследователю, но 3) в долгосрочной перспективе это выходит на плато и даже тормозит дальнейший прогресс, и 4) прорывной прогресс в конечном итоге достигается противоположным подходом, основанным на масштабировании вычислений путем поиска и обучения. Конечный успех носит привкус горечи и часто не полностью переваривается, потому что это успех над излюбленным подходом, сфокусированном на человеке. > Из этого горького урока следует извлечь одно - огромную силу методов общего назначения, методов, которые продолжают масштабироваться с увеличением вычислений даже тогда, когда доступные вычисления становятся очень большими. Два метода, которые, похоже, произвольно масштабируются таким образом, - это поиск и обучение. > Второй общий момент, который следует извлечь из этого горького урока, заключается в том, что фактическое содержание разумов чрезвычайно, несжимаемо сложно; мы должны прекратить попытки найти простые способы думать о содержании разумов, такие как простые способы рассуждать о пространстве, объектах, множественных агентах или симметрии. Все это - часть произвольного, по своей природе сложного, внешнего мира. Их не следует встраивать, поскольку их сложность бесконечна; вместо этого мы должны встраивать только те мета-методы, которые могут найти и зафиксировать эту произвольную сложность. Существенным для этих методов является то, что они могут находить хорошие приближения, но их поиском должны заниматься наши методы, а не мы. Нам нужны агенты ИИ, которые могут открывать, как мы, а не которые содержат то, что открыли мы. Встраивание наших открытий только усложняет понимание того, как может быть выполнен процесс открытия.