3 комментария

Каку Ся
14 июня 2019г. в 09:47
к Горький урок отрасли ИИ

Автор оригинала: Rich Sutton 
...
Из этого горького опыта нужно извлечь один урок: нужно признать огромную силу общих методов, которые продолжают масштабироваться с увеличением вычислительной мощности, даже когда требуются огромные объёмы вычислений. Кажется, поиск и обучение способны неограниченно масштабироваться.

Второй общий момент, который следует извлечь из горького урока, заключается в том, что реальное человеческое мышление чрезвычайно, безвозвратно сложно. Нам следует прекратить попытки найти простой способ представить содержимое ума как простые модели пространства, объектов или множественных агентов. Всё это часть внутренне сложного внешнего мира. Это невозможно смоделировать, поскольку сложность бесконечна. Вместо этого следует развивать мета-методы, способные найти и захватить эту произвольную сложность. Для этих методов важно то, что они могут найти хорошие приближения, но этот поиск осуществляется самими методами, а не нами. Нам нужны ИИ-агенты, которые могут сами вести исследования, а не использовать обнаруженные нами знания. Построение системы ИИ на человеческих знаниях только затрудняет её обучение.
Перевод m1rko 2 июня
Комментарии 361
© 2006–2019 «TM»

Войти и ответить
nikto_2559
22 июня 2019г. в 20:28
к Горький урок отрасли ИИ
На самом деле проблема не в том, что запрограммированная модель прототипа, как её понимает человек, оказывается хуже случайно-подбираемой нейросетки в процессе глубокого машинного обучения. Проблема в «фундаментальная ошибка атрибуции», то есть в том, что человек очень мало что может понять, но всё может объяснить. И при этом обычно не чувствует разницы между пониманием и объяснённостью. Хотя критерии понимания довольно просты. Понимание, это план своих действий приводящих к разрешению проблемы, а объяснение такого плана не дает.

Машина почти ничего не понимает и может лишь тыкаться «бросая кости» триллионы раз в секунду, но зато она ничего не объясняет, не совершает «фундаментальной ошибки атрибуции». Поэтому во многом выигрывает у обычного современного человека, с неразвитой культурой мышления.

Как видите, я тоже объяснил совершив «фундаментальной ошибки атрибуции». А вот понял ли я, это вопрос. Ведь плана разрешения проблемы я не предложил…
Войти и ответить
Каку Ся
22 июня 2019г. в 20:37
к Горький урок отрасли ИИ
Рад что зашли, нашли слова). Про понимать и понимающий пас. Вот как оно у него, а кто скажет). Вот и всё, готово.
Войти и ответить
Войти и прокомментировать