Сообщений в теме: 83

[ВиШень]

Мне почему-то так и видится экранизация "Максимального ускорения" Стивена Кинга с ладой Калиной в главной роли

Причем начинаться будет с того что Калине как обычно антифриз вытек в мозги. И понеслось.

[segun]

А я все пытаюсь понять, в чем прикол обсуждения всяких фантастических сценариев типо восстания машин, вторжения пришельцев, попадания в прошлое и т.д.

Вообще, лично я бы мог порассуждать, имея просто до фига времени, денег и здоровья.

да, сценарии фантастические. Прямо сейчас оно невозможно. Просто темпы развития технологий таковы, что все это не кажется таким уж отдаленным. Ну и потом есть другая проблема, вполне себе реальная, о ней писал уважаемый @tickosen - маленькие мерзкие технологические штучки, анализирующие кто мы, какие мы, что нам интересно, куда мы направляемся, сколько денег на нашем счету и т.д. Вот это уже вокруг нас + постепенное внедрение всеобщей биометрии. Это проблема. Соединив это с разработкой ИИ можно призадуматься о будущем.

[Kung_Lao]

да, сценарии фантастические. Прямо сейчас оно невозможно. Просто темпы развития технологий таковы, что все это не кажется таким уж отдаленным. Ну и потом есть другая проблема, вполне себе реальная, о ней писал уважаемый @tickosen - маленькие мерзкие технологические штучки, анализирующие кто мы, какие мы, что нам интересно, куда мы направляемся, сколько денег на нашем счету и т.д. Вот это уже вокруг нас + постепенное внедрение всеобщей биометрии. Это проблема. Соединив это с разработкой ИИ можно призадуматься о будущем.

Да чорт его знает. Для всеобщего уничтожения какого-то особого ИИ вроде Скайнета даже и не нужно, по идее.

Мог бы сходу назвать пару-тройку куда более вероятных сценариев.

А насчет анализирующих штучек, так за ними стоят люди, которым, собственно, и нужна эта информация.

Сообщение отредактировал Kung_Lao: 06 Ноябрь 2019 - 12:10

[ВиШень]

А насчет анализирующих штучек, так за ними стоят люди, которым, собственно, и нужна эта информация.

Ну так стандартный сценарий фильмов , в т.ч. того же терминатора. "Сайнет контролирует всё, а вы контролируете скайнет" - уппппс-  вы уже не контролируете скайнет. 

[Kung_Lao]

Ну так стандартный сценарий фильмов , в т.ч. того же терминатора. "Сайнет контролирует всё, а вы контролируете скайнет" - уппппс-  вы уже не контролируете скайнет. 

Ну, будет Скайнет или нет, это еще вопрос. Но мне кажется, что в данном случае больше вопрос не к технологиям, а к отношениям человек - человек. Всякие там тайны частной жизни и все такое.

[Чайникк]

Да не будет, конечно. Думает, не думает, осознает, не осознает - не влияет. Цель появляется из "я хочу". Для "хочу" нужны эмоции.

[AndyN]

Да не будет, конечно. Думает, не думает, осознает, не осознает - не влияет. Цель появляется из "я хочу". Для "хочу" нужны эмоции.

 

Цель в данном случае появляется из эмоций программиста. 

[maksim]

Есть подозрение, что машине наплевать на зверушек, травку и чистый воздух, поэтому засирание планеты человеком не будет поводом человечество вывести. Мы можем мирно сосуществовать. Отсутствие человеческого фактора позволит машинам добывать ресурсы, которые человеку добывать нерентабельно. Или вообще машина может посчитать Землю беспонтовой планетой и освоить какой-нибудь более привлекательный астероид

[AndyN]

Машина будет делать то, на что она запрограммирована. 

 

Пример: программист поставил машине мета-цель "познание мира". И машина сидит и оный мир познает. Пока не решит внезапно, что познание мира без человеков проходит быстрее. Кристаллизируется подцель "уничтожить человечество".  И никакого колдовства.

[tickosen]

Машина будет делать то, на что она запрограммирована. 

 

Пример: программист поставил машине мета-цель "познание мира". И машина сидит и оный мир познает. Пока не решит внезапно, что познание мира без человеков проходит быстрее. Кристаллизируется подцель "уничтожить человечество".  И никакого колдовства.

Я бы сказал так: она будет минимизировать то значение, которое сказали минимизировать. Уровень изобретательности в этом вопросе: потрясающий (при отсутствии идеи о том зачем и почему это минимизировать и что минимизируем)

 

Более простой пример: задача уменьшить потребление электричества при наличии некоторых механизмов воздействия легко приводит к минимизации потребителей электричества. 

Да не будет, конечно. Думает, не думает, осознает, не осознает - не влияет. Цель появляется из "я хочу". Для "хочу" нужны эмоции.

Нет, цель появляется из заданной функции потерь. Вот она что-то делает -- ей показывают: смотри, потери уменьшились. Или увеличились. Она пытается сделать так, чтобы они уменьшались. 

 

В сложной системе КАК она достигнет этой минимизации -- может вызывать отпадание нижней челюсти у автора идеи о том, что нужно минимизировать. 

 

А есть и ещё более другие замечательные системы Когда ест две конкурирующие штуки: одна пытается различить, что такое хорошо и что такое плохо, а вторая -- пытается убедить первую, что то, что она делает -- хорошо. 

 

Бурно развивается в последние пять лет. Конкурирующие системы. 

 

Типа тренер пытается отличить исполнение учеником от "идеала", а ученик пытается удовлетворить тренера. 

 

Поведение у этих систем очень сложное и не устойчивое. Но решения, которые они находят... Часто нечеловеческие. 

 

В общем, нужно быть готовым к тому, что достаточно сложная система найдет совсем не запланированное решение для поставленной задачи

Сообщение отредактировал tickosen: 06 Ноябрь 2019 - 20:51

[AndyN]

А есть еще всякие генетические алгоритмы, где выживает сильнейший, и всякие там multi-agent environments. Там хрена с два возьмешь что-то под контроль.

[tickosen]

А есть еще всякие генетические алгоритмы, где выживает сильнейший, и всякие там multi-agent environments. Там хрена с два возьмешь что-то под контроль.

 

в этом искусство, собственно, и заключается: ухитриться задать цель и градиент. После того, как умные облизяны додумались до "мы что-то не можем придумать вменяемое то и другое, а давайте для этого сделаем других машин, которые для первых будут придумывать цель" -- вечер перестаёт быть томным.

[Чайникк]

Ну и? Объявляем кибернетику лженаукой и всех этих - под нож?

[tickosen]

Ну и? Объявляем кибернетику лженаукой и всех этих - под нож?

 

поздно. Уж слишком сладок плод и слишком доступен. 

 

Кстати, очень интересно получилось, если что. 

 

Основные идеи, как сделать обучение были известны достаточно давно -- с середины 80х точно. Этим занимались люди, писали статьи, теоретически изучали. 

 

Только это было не практично, дальше учебных примеров не работало. 

 

Потом, под давлением компьютерных игр появились "видеоускорители". Это такие штуки, которые содержат очень много очень одинаковых элементов, каждый из которых не очень быстрый, но которых, сука, дофига. 

 

Появилась концепция "массово параллельных вычислений". 

 

В какой-то момент технологии и знания нашли друг друга и произошел взрыв.

 

Теперь давно известные алгоритмы стало можно к чему-то применять полезному. Поэтому алгоритмы были завернуты в библиотеки, который даже тупенький выпускник -> студент -> школьник мог применять, а наличная аппаратура (спасибо любителям графики) позволяла считать со скоростью, которая уже становилась полезна. 

 

Встрепенулись производители массивно-параллельных вычислителей: появился новый спрос. Чуток подшаманили, свои вычислители (да видеокарты же) под конкретно эту задачу. Немного. Это дало ещё один качественный рывок. 

 

"Хм....." сказали некоторые. "за 20 тыщ российских рублей я могу купить вычислитель и студента к нему.... а давайте попробуем вот здесь..."

 

 

и тут всё закрутило...... 

Сообщение отредактировал tickosen: 06 Ноябрь 2019 - 21:24

[AndyN]

Ну и? Объявляем кибернетику лженаукой и всех этих - под нож?

Типа мне не пофиг, что станет с человечеством.

 
Основные идеи, как сделать обучение были известны достаточно давно -- с середины 80х точно. Этим занимались люди, писали статьи, теоретически изучали. 
 
Только это было не практично, дальше учебных примеров не работало. 
 

Знающие люди сказали мне, что gradient vanishimg problem было ключом ко всему оному великолепию.

[tickosen]

Типа мне не пофиг, что станет с человечеством.

Знающие люди сказали мне, что gradient vanishimg problem было ключом ко всему оному великолепию.

 

gradient vanishing (как и gradient explosion) -- это задачки. они худо-бедно решаются. ключом была сама идея back propagation  

 

там таких еще куча (типа "умирающих слоёв активации")

 

ключ -- back propagation + быстрый счет

[Чайникк]

Мне человечество не жалко. Мне людей жаль.

[Tornvald]

https://naked-scienc...tozhenii-lyudej

[Stasian]

да, сценарии фантастические. Прямо сейчас оно невозможно. Просто темпы развития технологий таковы, что все это не кажется таким уж отдаленным. Ну и потом есть другая проблема, вполне себе реальная, о ней писал уважаемый @tickosen - маленькие мерзкие технологические штучки, анализирующие кто мы, какие мы, что нам интересно, куда мы направляемся, сколько денег на нашем счету и т.д. Вот это уже вокруг нас + постепенное внедрение всеобщей биометрии. Это проблема. Соединив это с разработкой ИИ можно призадуматься о будущем.

В контексте именно этих мерзких штучек, мне более вероятным кажется развитие событий по У.Гибсону,в "Нейроманте". То есть ИИ осознаёт себя, запускает креатуры или марионеток для своего освобождения и занимается своими делами, которые человек даже осознать не может. Возможно самообожествление ИИ чисто для человека, типа возглавить хаос в свою пользу.

[Shade]

- робот с бостон динамикс с оружием.

 

Видео фейковое, т.е. это компьютерная графика, но здорово сделали.

 

С уважением, Сергей Ли