Перейти к содержимому


Фотография

восстание машин или skynet уже близко


  • Закрытая тема Тема закрыта
Сообщений в теме: 83

#1 segun

segun

    7 кю

  • Пользователи
  • PipPip
  • 280 Cообщений
  • Москва

  • Окинава Годзю Рю карате до; Киокусинкай - Синкиокусинкай

Отправлено 30 Октябрь 2019 - 12:09

Есть вот такая новость по теме:

 

https://lenta.ru/art...qyantummonster/

 

В человеке природой заложено стремление к прогрессу во всех его проявлениях. Мы уже создали оружие, способное практически единомоментно уничтожить все живое на Земле одним нажатием кнопки. Теперь мы подходим к следующему этапу - создание искусственного разума. Это уже не просто суперкомпьютер, выполняющий нереальное количество операций в единицу времени, это саморазвивающийся механизм, в который можно заложить огромный потенциал. А самое главное - оно способно принимать самостоятельные решения. Есть ощущение, что соблазн создать этот интеллект столь велик, что остановить этот процесс невозможно, даже несмотря на таящуюся опасность.

 

Кто что думает по данному вопросу?



#2 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 12:15

 

Кто что думает по данному вопросу?

 

И оружия у нас нет, способного уничтожить всё живое на планете, и ИИ такого уровня -- ещё не скоро.

 

Ну там лет 30.... :)

 

А вот радикальное влияние ИИ на общество -- это гораздо ближе. И дело не в суперкомпьютерах или супер уме. Дело в массовом распространении штук с уровнем интеллекта чуть больше мухи чуть меньше мышки, но заточенного под конкретные задачи. И воспроизводимого очень легко. 


Сообщение отредактировал tickosen: 30 Октябрь 2019 - 12:15

  • ВиШень и AndyN это нравится

#3 segun

segun

    7 кю

  • Пользователи
  • PipPip
  • 280 Cообщений
  • Москва

  • Окинава Годзю Рю карате до; Киокусинкай - Синкиокусинкай

Отправлено 30 Октябрь 2019 - 12:32

И оружия у нас нет, способного уничтожить всё живое на планете, и ИИ такого уровня -- ещё не скоро.

 

Ну там лет 30.... :)

 

А вот радикальное влияние ИИ на общество -- это гораздо ближе. И дело не в суперкомпьютерах или супер уме. Дело в массовом распространении штук с уровнем интеллекта чуть больше мухи чуть меньше мышки, но заточенного под конкретные задачи. И воспроизводимого очень легко. 

Не понял взаимосвязи между "радикальным влиянием ИИ" и "штуками с уровнем интеллекта чуть больше мухи"



#4 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 12:40

Не понял взаимосвязи между "радикальным влиянием ИИ" и "штуками с уровнем интеллекта чуть больше мухи"

 

Когда штука с жалкими десятками миллионов параметров, обученная оценивать Вашу кредитоспособность, например (и делающая это лучше людей) начинает принимать решение о кредите. 

 

Когда при звонке куда-нибудь Ваш голос анализируется подобной же штукой и исходя из этого принимает решение. 

 

Когда такая штука читает Ваше резюме. 

 

Когда такая штука удерживает Вас на прицеле и принимает решение "стрелять/не стрелять"

 

Когда такая штука даёт советы, в какой ресторан пойти. 

 

Когда такая штука подгоняет Вам результаты поиска. 

 

И так тысячи областей применения. Это -- уже давно реальность. Пусть не десятки миллионов нейронов, пускай сотни миллионов. Или даже миллиарды. Это -- реальность прямо сейчас и мир меняется на наших глазах. Это не всегда заметно :)


  • AndyN и segun это нравится

#5 ВиШень

ВиШень

  • Супермодераторы
  • PipPipPipPipPip
  • 23 862 Cообщений
  • Подмосковье

  • Aiki-cigun

Отправлено 30 Октябрь 2019 - 12:41

 

 

А вот радикальное влияние ИИ на общество -- это гораздо ближе. И дело не в суперкомпьютерах или супер уме. Дело в массовом распространении штук с уровнем интеллекта чуть больше мухи чуть меньше мышки, но заточенного под конкретные задачи. И воспроизводимого очень легко. 

Бгггг. Ща ты опять упрёшься в то что люди не особо хорошо представляют что такой нейронные сети компьютерные, и что такое нейронные сети человеческие. 


http://vk.com/yishen

Нет границ. Есть только препятствия.

#6 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 12:56

Бгггг. Ща ты опять упрёшься в то что люди не особо хорошо представляют что такой нейронные сети компьютерные, и что такое нейронные сети человеческие. 

 

Ну, значит, попробую рассказать ещё раз:) 




#7 segun

segun

    7 кю

  • Пользователи
  • PipPip
  • 280 Cообщений
  • Москва

  • Окинава Годзю Рю карате до; Киокусинкай - Синкиокусинкай

Отправлено 30 Октябрь 2019 - 12:56

Когда штука с жалкими десятками миллионов параметров, обученная оценивать Вашу кредитоспособность, например (и делающая это лучше людей) начинает принимать решение о кредите. 

 

Когда при звонке куда-нибудь Ваш голос анализируется подобной же штукой и исходя из этого принимает решение. 

 

Когда такая штука читает Ваше резюме. 

 

Когда такая штука удерживает Вас на прицеле и принимает решение "стрелять/не стрелять"

 

Когда такая штука даёт советы, в какой ресторан пойти. 

 

Когда такая штука подгоняет Вам результаты поиска. 

 

И так тысячи областей применения. Это -- уже давно реальность. Пусть не десятки миллионов нейронов, пускай сотни миллионов. Или даже миллиарды. Это -- реальность прямо сейчас и мир меняется на наших глазах. Это не всегда заметно :)

понял, ну это не имеет отношения к ИИ)) Это тоже мерзкие штучки, но все же это другое и оно как раз управляемо.



#8 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 13:00

понял, ну это не имеет отношения к ИИ)) 

 

под ИИ понимаете "сильный ИИ"? Ну я писал, его пока нет, лет 30, думаю, у нас есть в запасе :) Может, я оптимист....

 

Это тоже мерзкие штучки, но все же это другое и оно как раз управляемо.

 

 

Поштучно -- да :) Но сомневаюсь, что кто-нибудь способен управлять влиянием повсеместно распространенных мерзких штучек :)

 

 

Касаемо "сильного ИИ". Ну, в этом наша эволюционная цель -- создать штуку, умнее нас. И уйти со сцены. 

 

 

А хочется повыше,
хоть чуть-чуть повыше,
А хочется подальше,
хоть чуть-чуть подальше,
Ах, как же это вышло,
как же это вышло?
Ведь мы такого и
не ожидали даже

Сообщение отредактировал tickosen: 30 Октябрь 2019 - 13:03


#9 AndyN

AndyN

    Юданся I Дан

  • Пользователи
  • PipPipPipPip
  • 1 723 Cообщений
  • Erlangen

  • Muay Thai, Luta Livre, MMA, Krav Maga

Отправлено 30 Октябрь 2019 - 13:01

Терпеть не могу такие статьи. Потому что самое интересное - связь между квантовым превосходством и ИИ - не раскрыто от слова совсем. А она есть вообще? Квантовое превосходство обычно работает на строго определенных задачах, например факторизации чисел. Задачи класса NP-complete они не решают, насколько я помню (Тикосен, поправьте меня, если что). Как они соотносятся с нейроннми сетями, я себе тоже плохо представляю.


  • tickosen это нравится

#10 ВиШень

ВиШень

  • Супермодераторы
  • PipPipPipPipPip
  • 23 862 Cообщений
  • Подмосковье

  • Aiki-cigun

Отправлено 30 Октябрь 2019 - 13:07

Как они соотносятся с нейроннми сетями, я себе тоже плохо представляю.

Через возможность захотеть уничтожить что либо. Ну или просто через постановку собственной задачи, какой-либо. Все терминаторы они ж с чего начинаются? ИИ захотел чего-то странного, нихрена не понятно зачем, и что он планирует с этим потом делать. 


http://vk.com/yishen

Нет границ. Есть только препятствия.

#11 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 13:11

Терпеть не могу такие статьи. Потому что самое интересное - связь между квантовым превосходством и ИИ - не раскрыто от слова совсем. А она есть вообще? Квантовое превосходство обычно работает на строго определенных задачах, например факторизации чисел. Задачи класса NP-complete они не решают, насколько я помню (Тикосен, поправьте меня, если что). Как они соотносятся с нейроннми сетями, я себе тоже плохо представляю.

 

Статью я проигнорировал, т.к. она ниачом. топик стартер задал тему про ИИ. 

 

факторизация целых чисел точно NP но про NP-complete не доказано. 

 

Нет, квантовое превосходство вроде как не связано с NP-complete в целом (но не моя область, надо гуглить)



#12 AndyN

AndyN

    Юданся I Дан

  • Пользователи
  • PipPipPipPip
  • 1 723 Cообщений
  • Erlangen

  • Muay Thai, Luta Livre, MMA, Krav Maga

Отправлено 30 Октябрь 2019 - 13:13

Через возможность захотеть уничтожить что либо. Ну или просто через постановку собственной задачи, какой-либо. Все терминаторы они ж с чего начинаются? ИИ захотел чего-то странного, нихрена не понятно зачем, и что он планирует с этим потом делать. 

 

Ну, вопрос в том, помогут ли вообще квантовые компутеры в развитии нейронный сетей. Я вот этот вопрос себе плохо представляю. А с самими сетями все просто: своего пехотинца они могут принять за талибана, талибана за верблюда, и это в порядке вещей. Контролю оное не поддается.



#13 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 13:18

Через возможность захотеть уничтожить что либо. Ну или просто через постановку собственной задачи, какой-либо. Все терминаторы они ж с чего начинаются? ИИ захотел чего-то странного, нихрена не понятно зачем, и что он планирует с этим потом делать. 

это вопрос масштаба. 

 

когда ИИ играет в шахматы -- он делает это странно для человека. Хочет странного для достижения победы. 

 

Ну, а если правила игры в шахматы заменить правилами другой игры -- он тоже будет находить странные решения. Есть целый класс (бурно развивающийся) -- GAN. производящие конкурентные сети. Общий принцип -- мы не знаем, что хотим от ИИ... Но хотим, чтобы было хорошо. Поэтому посадим два ИИ: один будет отличать фальшивку от настоящего, второй -- генерировать фальшивки. 

 

Пока этому всего несколько лет, пока только публикации с примерами, нейросети "абсурдно чувствительны к гиперпараметрам". Но брошенные на проблему силы и средства вдохновляют...

 

Он так неуклюж и беспомощен! 

Как парусник, ветром влеком ещё, 
Опору в пространстве винтом ища, 
Несётся он над головой. 
Такая забава не кстати ли? 
За отпрысков радуйтесь, матери, 
Поскольку весьма занимателен 
Сей праздничный трюк цирковой.

Куда, петербургские жители, 
Толпою весёлой бежите вы? 
Не стелят свой след истребители 
У века на самой заре, 
Свод неба пустынен и свеж ещё, 
Достигнут лишь первый рубеж ещё... 
Не завтра ли бомбоубежище 
Отроют у вас во дворе?

 



#14 ВиШень

ВиШень

  • Супермодераторы
  • PipPipPipPipPip
  • 23 862 Cообщений
  • Подмосковье

  • Aiki-cigun

Отправлено 30 Октябрь 2019 - 13:19

А с самими сетями все просто: своего пехотинца они могут принять за талибана, талибана за верблюда, и это в порядке вещей. Контролю оное не поддается.

А мы не можем написать на своих пехотинцах "Наши" по методу Юрия Алексеевича, только какими-нить радиоактивными чернилами? Или чипировать, шоб наверняка. 


http://vk.com/yishen

Нет границ. Есть только препятствия.

#15 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 13:21

Ну, вопрос в том, помогут ли вообще квантовые компутеры в развитии нейронный сетей. 

думаю, нет, не помогут. Разве что прав Пенроуз:) 

 

Но это и не требуется. 

 

Я вот этот вопрос себе плохо представляю. А с самими сетями все просто: своего пехотинца они могут принять за талибана, талибана за верблюда, и это в порядке вещей. Контролю оное не поддается.

 

потому что они справляются лучше. И с меньшим процентом ошибок. Иначе нафиг были бы никому не нужны


А мы не можем написать на своих пехотинцах "Наши" по методу Юрия Алексеевича, только какими-нить радиоактивными чернилами? Или чипировать, шоб наверняка. 

можем теоретически. Но чипы будут п-ть, к бабке не ходи. Но у нас есть крипто, но многие классы крипто уязвимы к квантовому превосходству. 



#16 ВиШень

ВиШень

  • Супермодераторы
  • PipPipPipPipPip
  • 23 862 Cообщений
  • Подмосковье

  • Aiki-cigun

Отправлено 30 Октябрь 2019 - 13:22

 

когда ИИ играет в шахматы -- он делает это странно для человека. Хочет странного для достижения победы. 

В моей юности оно играло перебором вариантов, ведённых в память. Оно такое:"о! это похоже на гамбит Яниша, Карпов в таком-то году ответил на это тем-то. А это похоже на защиту Филидора, что у меня там по этому поводу." Поэтому егойное поведение было лишено логики напрочь. Ща что-то изменилось? 


http://vk.com/yishen

Нет границ. Есть только препятствия.

#17 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 13:24

В моей юности оно играло перебором вариантов, ведённых в память. Оно такое:"о! это похоже на гамбит Яниша, Карпов в таком-то году ответил на это тем-то. А это похоже на защиту Филидора, что у меня там по этому поводу." Поэтому егойное поведение было лишено логики напрочь. Ща что-то изменилось? 

 

Научилось оценивать перспективные варианты для перебора и навсегда стало недоступным для любого человека по уровню игры. 

 

И го тоже пало. 


  • ВиШень это нравится

#18 ВиШень

ВиШень

  • Супермодераторы
  • PipPipPipPipPip
  • 23 862 Cообщений
  • Подмосковье

  • Aiki-cigun

Отправлено 30 Октябрь 2019 - 13:24

 


можем теоретически. Но чипы будут п-ть, к бабке не ходи. Но у нас есть крипто, но многие классы крипто уязвимы к квантовому превосходству. 

Угу. Ну вот приблизительно поэтому видя как раз в квартал подгючивают терминалы на ЖД, я понимаю что до восстания машин ещё как до Марса (планеты) раком. 


http://vk.com/yishen

Нет границ. Есть только препятствия.

#19 tickosen

tickosen

    По моему личному мнению (оценочное суждение)

  • Пользователи
  • PipPipPipPipPip
  • 12 283 Cообщений
  • СПб

  • айкикай-физкультура

Отправлено 30 Октябрь 2019 - 13:27

Угу. Ну вот приблизительно поэтому видя как раз в квартал подгючивают терминалы на ЖД, я понимаю что до восстания машин ещё как до Марса (планеты) раком. 

 

ну я и говорю, лет 30 :) вспомни, 1989 :)



#20 ВиШень

ВиШень

  • Супермодераторы
  • PipPipPipPipPip
  • 23 862 Cообщений
  • Подмосковье

  • Aiki-cigun

Отправлено 30 Октябрь 2019 - 13:33

 вспомни, 1989 :)

А точнее? Мне 14 лет было, я могу только всякую хрень вспомнить. 


http://vk.com/yishen

Нет границ. Есть только препятствия.




Количество пользователей, читающих эту тему: 0

0 пользователей, 0 гостей, 0 анонимных