Сообщений в теме: 83

[asata]

Я ведь не случайно упомянул в топике про оружие массового поражения. ИИ и ОМП - звенья одной цепи. Мы стремимся создавать все более и более совершенные способы самоуничтожения. Но пока еще можем это контролировать. Вопрос только в том, как долго это продлится.

Это-то и пугает! Жажда познания кратно превосходит таящийся риск

- И я понял - вирус это человечество... - сказат Смит Морфеусу на допросе...

Сообщение отредактировал asata: 31 Октябрь 2019 - 23:40

[Чайникк]

В каком то смысле - да.

[Цан Лун]

Партизанить против структуры вроде Скайнет получится примерно никак.

А у Желязного где-то получилось (забыла название) Там герой как бы умер для структуры и всячески ее динамил. Кто помнит?

[Alex_219]

А у Желязного где-то получилось (забыла название) Там герой как бы умер для структуры и всячески ее динамил. Кто помнит?

https://fantlab.ru/work7061

Три рассказа/повести

Любимая цитата

Я изучал дзю-до. Как, известно, есть три школы: кодокон (японский стиль), будо кваи и система Французской федерации. Последние две очень много заимствовали из правил первой за небольшим исключением: там использовались те же броски, захваты и другие приемы, разве что более грубо. Простой стиль был приспособлен к нуждам людей низкорослой, маленькой расы и больше основывался на скорости, ловкости и отточенности, нежели на физической силе. Две последние системы заимствовали основы техники, хотя это была ухудшенная копия. И это мне подходило: я был большим и неуклюжим. Единственное, что мне мешало - моя расхлябанность. Если вы изучаете кодокон, то вы можете и в восемьдесят лет успешно проводить приемы: дело в том, что там все решает не физическая сила, а техника. Я избрал свой способ: изучил и то, и другое, с одной стороны, действовал погрубее, а с другой - я был уже не так силен, как прежде, в своей юности, поэтому стиль определялся моими возможностями. И это давало возможность поддерживать форму.

Ещё у Гаррисона с завязкой на эту же +-тему трилогия К звёздам была.

[Чайникк]

Ребята, чтобы "исчезнуть" для системы, в нее сначала нужно быть включенным. Это вот если завтра в открытую и в обязон вас примутся чипировать, то тогда вы этот фокус сможете провернуть. А мы исходим из модели "скайнет верзус лысая обезьяна". Кино то смотрели, не? Там скайнет приборзевших приматов ни в какую систему не включал. Он их просто выпиливал. Ему по умолчанию хватало интеллекта для этого. Он там был наделен самосознанием, как следствие был способен отделять себя от иных проявлений внешнего мира. А поскольку тут мордобойцы, либо вышедшие за рамки спорта, либо в спорте и не бывавшие, то для более наглядного - скайнет в этом варианте боец, находящийся в ИСС. Отключенные эмоции. Только в отличие от обезьяны-мутанта, Скай в этом состоянии перманентно и сигнальных у него больше. Сколько ему надо, столько и намастрячит. Он - это не только центральный процессор. Это каждый терминатор, каждый скаут, каждый сенсорный датчик, каждый транспорт и так далее. Он информацию о состоянии и перемещениях противника получает непрерывно в таком объеме, что у любой одетой макаки мозг сгорит от малой доли процента этого объема. Скорость обработки превышает все, что может себе вообразить человек. Это только в кино и книжках можно противодействовать подобной системе. В реальности... Реьята, вы никогда не слышали о системе артиллерийского минирования? Например, еще в 70-х прошлого века, ЕМНИП, была разработана и принята на вооружение мина "Элси". Видели такую кругленькую открывашку для бутылок складную? Примерно с советский металлический рубль? Вот примерно таких габаритов. При помощи артухи этими минами буквально "засеивали" целые гектары СПЛОШЬ. Минка падает, шлепается об землю и встает на боевой взвод. Снятие с боевого не предусмотрено. Точнее, только одним способом. При срабатывании человека не убивает, как правило. Так, по мелочи - ступню отрывает, иногда может размолоть почти до колена. Понятно, если какой то везунчик ухитрится упасть головой - прибьет. Так вот я к чему - Скайнету из кино вообще не требовалось как то особо воевать. Достаточно закидывать территорию сейсмодатчиками и потом зачищать. На терминаторов датчики не сработают, это даже сегодня продвинутые охранные могут. А скрыть себя от таких датчиков не получится. Более того, поскольку Скаю не нужны ресурсы в том ассортименте как человеку, он может и термиков не использовать. Просто расстреливать обнаруженные скопления людей и все. Только кина тогда не будет. Вот и "лазейки"...

[asata]

Ну тогда тока один вариант - элетромагнитная пушка. Вломить, чтоб вся электроника сгорела и вернуться в первобытно-общинный строй...

[AndyN]

Электронику можно защитить от ЭМП.

[Чайникк]

Лично у мну великие-превеликие сомнения. Взять хоть современные вертухи военные. Им по большому счету страшно попасть под ударную волну или световое излучение. ЭМ эффект практически нивелируется дублированием систем. Просто и надежно. Машинам Скайнет можно позволить себе и дублирование хоть тремя контурами, как в современных военных машинках, хоть десятью, да еще и заэкранироваться по самые уши. Потому что им нет необходимости иметь отсеки для экипажа и системы жизнеобеспечения людей. Да и стоимость их интересует ровно с точки зрения наличия ресурсов. Плюс ЛЮБЫЕ действия, например, выполз из норы и пошол посрать, активирует сенсоры. А ими Скай может забрасывать просто всплошную. Мы не можем. По тем же причинам, почему использование артиллерийских систем минирования ограничено - мы ж потом и сами туда пойти не сможем. Либо для этого нужно счас чипировать всех солдаперов и всю технику без малейшего исключения. И снабдить все мины микропроцессором с системой распознавания "свой/чужой". И вот тут мы упремся в человеческий фактор. Скай этого фактора лишен. Он может. Ну и как ты собрался ту пушку хотя бы собрать? Левитируя низко над землей? Если исходить из вводных серии фильмов про отважную семейку Коннор, то Скай может - навскидку от сугубого дилетанта! - следующее: очень плотная воздушная разведка, визуальная и тепловая, непрерывное сканирование всего спектра радиочастот, сейсморазведка, "пешая" разведка силами автоматических скаутов разной величины и разного радиуса поиска. И все это Скай имеет возможность делать ШИРОКО МАСШТАБНО В РЕЖИМЕ НОНСТОП. Потому что исключен человеческий фактор. Более того - если додумается до работающих тритиевых или еще каких долгоиграющих элементов, которые счас не перспективны ввиду опасности для пользователя, то вапще пипец. И даже под землю на манер Зиона не зароешься. Нам надо молиться, чтобы машины с самосознанием создали не раньше, чем смастерят системы контроля оных.

[tickosen]

Хм... забацаем второй ИИ, который будет противостоять первому

уже давно сделано на моделях. generative adversary networks. 

 

и всякие альфа-го зеро так и тренируются. 

Электронику можно защитить от ЭМП.

 

а ещё её можно сделать по-настоящему много. 

[AndyN]

уже давно сделано на моделях. generative adversary networks. 

 

и всякие альфа-го зеро так и тренируются. 

 

То бишь, оба ИИ будут действовать синергично, как республиканцы и демократы? Почему бы и да.  

[tickosen]

То бишь, оба ИИ будут действовать синергично, как республиканцы и демократы? Почему бы и да.  

 

примерно так. Из известных проблем: "системы чрезвычайно (absurdly)  чувствительны к гиперпараметрам" 

Сообщение отредактировал tickosen: 01 Ноябрь 2019 - 18:38

[segun]

Лично у мну великие-превеликие сомнения. Взять хоть современные вертухи военные. Им по большому счету страшно попасть под ударную волну или световое излучение. ЭМ эффект практически нивелируется дублированием систем. Просто и надежно. Машинам Скайнет можно позволить себе и дублирование хоть тремя контурами, как в современных военных машинках, хоть десятью, да еще и заэкранироваться по самые уши. Потому что им нет необходимости иметь отсеки для экипажа и системы жизнеобеспечения людей. Да и стоимость их интересует ровно с точки зрения наличия ресурсов. Плюс ЛЮБЫЕ действия, например, выполз из норы и пошол посрать, активирует сенсоры. А ими Скай может забрасывать просто всплошную. Мы не можем. По тем же причинам, почему использование артиллерийских систем минирования ограничено - мы ж потом и сами туда пойти не сможем. Либо для этого нужно счас чипировать всех солдаперов и всю технику без малейшего исключения. И снабдить все мины микропроцессором с системой распознавания "свой/чужой". И вот тут мы упремся в человеческий фактор. Скай этого фактора лишен. Он может. Ну и как ты собрался ту пушку хотя бы собрать? Левитируя низко над землей? Если исходить из вводных серии фильмов про отважную семейку Коннор, то Скай может - навскидку от сугубого дилетанта! - следующее: очень плотная воздушная разведка, визуальная и тепловая, непрерывное сканирование всего спектра радиочастот, сейсморазведка, "пешая" разведка силами автоматических скаутов разной величины и разного радиуса поиска. И все это Скай имеет возможность делать ШИРОКО МАСШТАБНО В РЕЖИМЕ НОНСТОП. Потому что исключен человеческий фактор. Более того - если додумается до работающих тритиевых или еще каких долгоиграющих элементов, которые счас не перспективны ввиду опасности для пользователя, то вапще пипец. И даже под землю на манер Зиона не зароешься. Нам надо молиться, чтобы машины с самосознанием создали не раньше, чем смастерят системы контроля оных.

если мы допустим такую степень развития ИИ, нам придет неминуемый гаплык. Это уже вопрос времени. Хотя....вся база знаний машины по ведению войны все равно будет строиться на том опыте поколений двуногих, что будет накоплена в момент Х. Инструменты изменяются, но методы будут использоваться прежние. В этой связи надо научиться как-то "рвать шаблоны", действуя вопреки логики. Не знаю, все это конечно сплошь абстракция и предположения, но повторюсь, ощущение, что часики начали тикать

[tickosen]

если мы допустим такую степень развития ИИ, нам придет неминуемый гаплык. Это уже вопрос времени. Хотя....вся база знаний машины по ведению войны все равно будет строиться на том опыте поколений двуногих, что будет накоплена в момент Х. Инструменты изменяются, но методы будут использоваться прежние. В этой связи надо научиться как-то "рвать шаблоны", действуя вопреки логики. Не знаю, все это конечно сплошь абстракция и предположения, но повторюсь, ощущение, что часики начали тикать

 

да не собираются пока машины воевать с людьми  

 

Пока люди собираются воевать с людьми, с применением машин 

 

Машинам пока пох -- задачи такой не ставилось

[Чайникк]

Так мы же берем за исходную модель киношный скайнет. А он "умный" и самообучаемый. Концептуально же методы ведения войны он не меняет. Просто он имеет возможность нарост исключать человеческий фактор и ему плевать на потери. Возьмем, например, разведку. Основной вид разведки - наблюдение. Мы приходим и терпеливо сидим и тарашимся таращимся. Глазки пялим. Если тут где то есть враждебно настроенные люди, они так или иначе себя выдадут - им надобно кушать, пить, какать, писять, иметь хоть немного моциона. Потом еда не бесконечна. И они устают, их надобно сменять. Машины этих слабостей лишены. Пришли, накидали датчиков, камер, затихарились, врубили режим энергосбережения замерли. Дышать не надо, тепла выделяют минимум, внимание не рассеивается. Он так и месяцами сидеть могут, хрен ты там чего навысматриваешь. Таким образом, выявить засады наблюдением уже шиш с маслом. С учетом отсутствия необходимости сменять личный состав охват одним и тем же количеством увеличивается минимум в два раза. Да он за полгода так нашпигует территорию, что останется закопаться поглубже и умереть.

[tickosen]

Так мы же берем за исходную модель киношный скайнет. А он "умный" и самообучаемый. 

 

ну пока есть такой вариант: если мозг уровня таракана заточить строго на одну задачу.

 

результат поразителен. 

[Kung_Lao]

А я все пытаюсь понять, в чем прикол обсуждения всяких фантастических сценариев типо восстания машин, вторжения пришельцев, попадания в прошлое и т.д.

Вообще, лично я бы мог порассуждать, имея просто до фига времени, денег и здоровья.

Сообщение отредактировал Kung_Lao: 05 Ноябрь 2019 - 21:09

[tickosen]

А я все пытаюсь понять, в чем прикол обсуждения всяких фантастических сценариев типо восстания машин, вторжения пришельцев, попадания в прошлое и т.д.

Вообще, лично я бы мог порассуждать, имея просто до фига времени, денег и здоровья.

 

ну как... пугает это всё

 

денег добавляет

 

здоровья -- не очень 

[Kung_Lao]

ну как... пугает это всё

Ну вот мне и стало интересно, почему пугает именно восстание машин.

Мне почему-то так и видится экранизация "Максимального ускорения" Стивена Кинга с ладой Калиной в главной роли Или Терминатора с каким-нибудь отечественным шедевром из китайских деталей

Сообщение отредактировал Kung_Lao: 05 Ноябрь 2019 - 22:22

[Чайникк]

Тоже мне, бином ньютона... Непроизвольное очеловечивание машин. В сочетании с пониманием того, что жестко логичного противника, несвязанного эмоциями и моральными догматами противника нам не победить без тотального превосходства. Вот и пугает. Люди же, хоть и в глубине души, но большею частию осознают ущербность человеческой цивилизации. И боятся, что машина, осознавшая себя, логично сочтет человечество наивысшей угрозой для планеты и даже самого человека. И того, нейтрализует угрозу. Всякие там оптимисты отказываются верить, например, в то, что активность человека уничтожает перманентно целые виды живых существ. Фигня в том, что все имеет пределы прочности. Но люди как вид об этом не думают. А если и думают, то включается механизм самоуспокоения. У машины этого нет. Вот и страшно. А пугаться люди любят.

[AndyN]

Нашли чего пугаться. Я больше боюсь, что не доживу до того радостного дня.