Category: it

Category was added automatically. Read all entries about "it".

запишу, пока не забыл

Слушал сегодня Нати Сребро про нейронные сети и их тайну. По мотивам этой статьи, частично - этой.
Прекрасная постановка вопроса, потом результаты - но они пока очень сырые, для сферического коня в вакууме все сходится, как это обобщить на продолговатую лошадь - ну.. направление в целом понятно, ясно, что суть примерно та же.
Collapse )В общем, мне очень понравилось. Обычно на вопрос "а как же там с VC-dimension?" слышишь глубокомысленное "для этого у нас dropout есть - все будет в порядке" (а иногда: "ты че, бля! работает - не трогай!"), а тут - становится потихоньку понятно, почему же оно действительно работает.
This entry was originally posted at https://ile-eli.dreamwidth.org/155096.html. Please comment there using OpenID.

... с надписью "Да здравсевует прогресс!"

Мики Эльад написал недавно замечательный текст под названием "Deep, Deep Trouble". Речь, разумеется, о deep learning, я свои впечатления описал 2.5 года назад, когда с этим ознакомился. С тех пор, кстати, стало ясно, что это как автомобильный двигатель против паровоза - работает отлично, чем дальше, тем лучше, все там будем.
Текст Мики надо читать. Очень умный, очень интересный. Я думаю, лучше не пересказвыать.
Я с ним, правда, не согласен. Есть две идиотские реакции на него: "Чё те надо-то, работает, не пыхти" и "а, ясно, у него сдвинули сыр!". Так вот, сыр у него никто не сдвигал. Он публикует отличные работы и про нейронные сети, разумеется, связанные с его sparse representation.
Вобщем, встретил я Мики пару дней назад, говорю, не согласен я с тобой. Он говорит, почему? Я говорю, ты же сам что делал? Взял какой-то постулат, сказал - оно работает, и стал развивать это дело. Разница только в том, что ты теоремы сходимости доказываешь, а они говорят: "работает и ладно"
Мики сказал, что уравнения Максвела тоже не докажешь. Это модель, которая, вроде, хорошо описывает действительность. А из них уже половина (ну, по крайней мере, четверть) физики строится. Вот и у него модель.
То есть по мне уравнения Максвела - познания мира, а  sparse representation - сапожное ремесло. Я-то сам сапожник, а Мики - профессор сапожного института. А он говорит - нифига! Это тоже познание мира. Тот факт, что естественные сигналы, будь то сейсмические волны, картинки или речь обладают свойством sparsity - это тоже устройство мира. Ладно. С этим спорить как-то глупо.
А ответ мой на его текст получается такой:
Если бы фотографию (скажем, цветную) изобрели бы, скажем, в 12-м веке, живописи бы не было. Но ее изобрели когда живопись была достаточно взрослой, и она от этого не умерла. Нанесен ли живописи урон? Очевидно, да. Плохим (да и просто начинающим) художникам сложнее прокормиться, это, очевидно, влияет и на хороших художников. Я, правда, думаю, что и польза есть.
Если Computer vision - самоценная область с пониманием мира - так возникновение ремесленного конкурента ее не убьет. Если сравнение с физикой правомочно, то выделение electrical engineering или mechanical engineeringв отдельные дисциплины физику не погубили. Наоборот, у физиков очень модно заниматься вещами, от которых практической пользы нет и никогда не будет.

А про угрозу человечеству - это он правильно сказал. Про супругу-робота - это просто чтоб разозлить, но какие работы мы будем выполнять лет через 30-50 лучше роботов - большой вопрос. Тест Тюринга по сути пройден, годится ли робот в собеседники - похоже, что в каких-то случаях - да, дальше- хуже. Что из всего этого выйдет - тоже большой вопрос.

This entry was originally posted at http://ile-eli.dreamwidth.org/149171.html. Please comment there using OpenID.

подарочек на рош ходеш

В общем, Генри вернулся. Опять его кто-то нашел на улице, опять через базу данных нашел первых хозяев, они позвонили нам и спросили, готовы ли мы его взять. Девице-дуре его возвращать не хотят. Ну мы что, мы согласились. Полгода зверю.
Ладно, если он и являлся имуществом девицы-дуры, то явно имуществом брошенным.