Сообщений в теме: 121

[Чайникк]

Ааа. Не могу ничего сказать. Не знаю. Но склонен полагать, что человек не задействует свой мозг полноценно. Да, я знаком с точкой зрения "все это хуйня", популярной среди медицинских учоных средней руки, но как обыватель могу себе позволить класть на эту точку зрения. И продолжать считать, что любым компам еще далеко до потенциальных мощностей, заложенных в бошку пьяненького Васи у пивнаря.

[kek]

Если Вы тут будете сравнивать нейронные сети с человеческой творческой фантазией, коей не все человеки-то владеют, я возьму лопату и и буду набрасывать говно на КНД газовой турбины.

 

самое главное не сравнивать игру в старкрафт 2 с человеческой творческой фантазией.

[ВиШень]

Но склонен полагать, что человек не задействует свой мозг полноценно. 

Ну да. А ты в курсе сколько энергии он жрёт? 

 буду набрасывать говно на КНД газовой турбины.

 

будет интересно. 

 

 

Кому, ёпт....? 

[Чайникк]

Будешь смеяться, но в курсе. И не считаю это препятствием. Это было препятствием когда то, в эпоху "намнехуйжрать!", но уж точно не в нашу эру "Хватитжратьуродытолстожопые!".

[tickosen]

 

Кому, ёпт....? 

мне было б интересно

 И продолжать считать, что любым компам еще далеко до потенциальных мощностей, заложенных в бошку пьяненького Васи у пивнаря.

 

Васю сложнее приставить к делу

[Asen]

самое главное не сравнивать игру в старкрафт 2 с человеческой творческой фантазией.

А что нет с игрой Старкрафт, я в неё тоже не играю.

 

Но возьмём любую игру, в каждой требуется долю фантазии и творческой мысли.

[tickosen]

Будешь смеяться, но в курсе. И не считаю это препятствием. Это было препятствием когда то, в эпоху "намнехуйжрать!", но уж точно не в нашу эру "Хватитжратьуродытолстожопые!".

 

а инстинкты так быстро не меняются )

[Чайникк]

"Железной рукой загоним человечество к счастью!". "Помню, мне рассказали: когда доктора Грюнова спросили, как ему удалось создать отличный пулемет, он ответил, что альтернативой у него был концлагерь."(Д. Ширяев)

[Яри]

а инстинкты так быстро не меняются )

Человеку без разницы - у него их нет

А вот вычислительные мощности мозга таки различаются. Более того, различаются и типы предпочитаемого мышления (кто-то себе комиксы в голове рисует, кто-то всё в символы и формулы переводит, кому-то пространственную модель подавай).

[tickosen]

А вот вычислительные мощности мозга таки различаются.

 

боюсь таки да. 

 

Как там? Половина IQ человечества в одном месте?

 

А что нет с игрой Старкрафт, я в неё тоже не играю.

 

Но возьмём любую игру, в каждой требуется долю фантазии и творческой мысли.

 

Вот например

 

джон кармак из oculus сказал, что с виртуальной реальностью ему уже все в принципе понятно, и теперь он займётся созданием искусственного интеллекта, и, кажется, я единственный человек, которого это пугает, потому что все остальные радуются и кричат, что кармак гений.

и кармак, конечно, гений, но блин, вспомните, как это было в прошлый раз. сидим мы за компьютерами, собираем цветочки, и тут приходит кармак и говорит: а давайте сделаем так, чтобы интересно было, чтобы, значит, кровь, кишки и распидарасило.

ему говорят, что это невозможно, видеокарточки говно (на самом деле, никаких видеокарточек просто не было!), памяти не хватит, а кармак уходит в темную комнату и возвращается с wolfenstein 3d.

все в шоке, игра не помещается на дискету, трехмерная, а ещё в ней гитлер.

но кармаку этого мало, и он уходит в темную комнату ещё раз, и выходит из неё с doom 3d, где с кровью и кишками все уже сильно лучше, и можно вертеть головой, куда хочешь. пока твоя голова ещё на месте.

пока все охреневают от марсианских демонов, кармак уходит в темную комнату ещё раз, потому что он знает, что кровь и кишки в doom это все-таки двумерные спрайты, а это не true.

из комнаты он выносит quake — первый по-настоящему трёхмерный шутер с первым настоящим мультиплеером. первый шутер, которому реально нужна выделенная видеокарта, которых только что ещё не было.

кровь, кишки и распидарасило теперь и в честном 3d.

ну то есть человек в одно практически рыло придумал жанр трёхмерных стрелялок, сделал его сетевым, сделал популярным расширитель памяти dos4gw, придумал терять айтемы при смерти и немедленные респауны и дал мощнейший пинок индустрии видеокарт, которые много лет спустя внезапно пригодились для машинного обучения.

ну ладно, игровые механики, наверное, ромеро тоже придумал, но не суть. конечно, гений.

но это же как наркодилера в детский сад воспитателем брать, потому что он очень хороший специалист в своём деле, и товар у него хороший.

и все такие ну наконец-то, как долго мы тебя ждали, хотя у тебя ничего не получится, старые подходы не работают, новых нет, но удачи и все такое.

а он такой: да я просто хочу, чтобы интересно было.

и уходит, сука, в темную комнату.

(С) Вова Гуриев

 

https://vk.com/wall23059_15603

Сообщение отредактировал tickosen: 15 Ноябрь 2019 - 20:36

[AndyN]

О хосспади, норот не только на терминатора сходил, но исчо и в дум порезался. А "распидарасило" это описание какого феномена?

[tickosen]

 Раньше это называли словом "смекалка".

 

 

Продолжу развлекать население по этому вопросу.

 

Я выше писал про разбор рукописных букв. Это классический учебный пример, недавно мне довелось на нем демонстрировать понятие overfitting ("переучивание"). в наборе данных MNIST 60 000 распознанных людьми рукописных цифр. По 6000 на цифру. 

 

Выглядит это примерно вот так: 

 

 

Это классическая "первая задача" для искусственных нейросетей, с ней справляется простейшая.

 

К ней прилагается учебный пример: 

 

Выберем, скажем, 10 000 случайных картинок. И еще одну тысячу. И будем обучать сетку на 10 000, но проверять на отдельной тысяче, которую она никогда не видит в режиме обучения. 

 

Очень быстро мы видим, что сетка начинает работать на 10 000 гораздо лучше, чем на той другой тысяче. Почему? Да она их зазубривает. 

 

Что делаем мы? А мы на вход сетки ставим слой потерь. Который СЛУЧАЙНЫМ образов добавляет шум в картинки. На этапе обучения только, чтобы она не запоминала какие-то конкретные штришки там... типа "а, помню такой штришок -- это ПЯТЬ!!! А вот этот штришок -- это... это ДВА :(". 

 

Поэтому, мы учим её проявлять смекалку, чтобы она смотрела в корень. На этапе эксплуатации шум снимается. 

 

Как выглядит то, на чем учится сетка, достигая точности в 99%?

 

А вот так:

 

 

Подчеркиваю, шум случайный. Даже если мы повторно ей показывает ту же картинку (а мы показываем), то шум будет другой, картинка будет выглядеть иначе. 

 

И магическим образом разница в точности работы на учебных примерах и новых для сети примерах -- пропадает. 

 

Считать ли это изобретением подходов со стороны обучаемой сетки -- вопрос философский.

Сообщение отредактировал tickosen: 15 Ноябрь 2019 - 20:59

[Чайникк]

Чот я подбздюхивать начинаю...

[tickosen]

Чот я подбздюхивать начинаю...

 

Рано.

- А теперь?

- Рано

- А теперь?

- А теперь поздно

О хосспади, норот не только на терминатора сходил, но исчо и в дум порезался.

не мешайте всё серьезнее, чем кажется

 

 А "распидарасило" это описание какого феномена?

 

 

Сколько лет назад Вам интернет провели? 

[Чайникк]

Ненуачо, я вот тоже внятно сформулировать, что такое точно "распидарасило" не могу. Честно пытался, не сумел. Чую, что чего то такое эдакое, а что в точности не могу сказать.

[tickosen]

Ненуачо, я вот тоже внятно сформулировать, что такое точно "распидарасило" не могу. Честно пытался, не сумел. Чую, что чего то такое эдакое, а что в точности не могу сказать.

 

а оно не имеет смысла вне словосочетания, которое "мем", которое как "ген" -- устойчивая единица информации. 

[Чайникк]

Не знаю. Я пытался как то зафиксировать ассоциации со словом, поймал. Мне не нравится. Ибо по ассоциации вижу пинча со свисающей из жопы кишкой. Зрелище препротивное...

[tickosen]

Не знаю. Я пытался как то зафиксировать ассоциации со словом, поймал. Мне не нравится. Ибо по ассоциации вижу пинча со свисающей из жопы кишкой. Зрелище препротивное...

 

суть мема -- обозначить что-то предельно неприятное и физиологичное, связанное с. 

 

Как смайлик такой. 

 

Мы можем анализировать и выражать своё отношение и свои познания, но мем живёт своей жизнью. 

[AndyN]

Стоп. Каша в голове моей.

 

По-человечески это dropout, а не смекалка называется. Произвольным образом выключают из сети нейроны. Любые, необязательно входные. Типа водочки нажраться, тоже повышает креативность.

 

Вот только это не смекалка. Это сеть, которая учит наизусть (по-человечески overfitting), Вы пинками заставляете генерализировать. И это замечательно. Но у сети есть некий bias. Тобишь направление, в котором она генерализирует. Этого направления плюс астрономической производительности гракарт хватает, чтобы решать впечатляющее количество сложных задач.

 

Вот только чтобы проявить смекалку, сеть должна выйти на задачу, которую она решает плохо. И чтобы решить ее хорошо, ей нужно поменять этот самый bias. Причем желательно поменять не как-нибудь, а с умом. Что-то типа сети, которая крутит гиперпараметры другой сети. Вы видели сеть, которая оное делает? Я вот не видел до сих пор. Хотя люди иногда прикручивают к ним генетические алгоритмы.

[tickosen]

Стоп. Каша в голове моей.

 

По-человечески это dropout, а не смекалка называется. 

а что такое смекалка у человеков? 

 

 

Вот только это не смекалка. Это сеть, которая учит наизусть (по-человечески overfitting), Вы пинками заставляете генерализировать. И это замечательно. Но у сети есть некий bias. Тобишь направление, в котором она генерализирует. Этого направления плюс астрономической производительности гракарт хватает, чтобы решать впечатляющее количество сложных задач.

 

 

Интересно про bias. для меня это b в Ax + b

 

 

Что-то типа сети, которая крутит гиперпараметры другой сети. Вы видели сеть, которая оное делает? Я вот не видел до сих пор. Хотя люди иногда прикручивают к ним генетические алгоритмы.

 

Не слышали про adversarial networks? Гиперпараметры пока крутят люди  

 

количество публикаций: