Автор Тема: Moral Machines: How culture changes values​  (Прочитано 119 раз)

Noir

  • Постоялец
  • ***
  • Сообщений: 292
    • Просмотр профиля
Moral Machines: How culture changes values​
« : Март 26, 2020, 09:09:11 am »
Moral Machines: How culture changes values​

https://www.youtube.com/watch?time_continue=267&v=jPo6bby-Fcg&feature=emb_logo

статья
https://www.nature.com/articles/d41586-018-07135-0

Интересная тема о том, как программирование Self-driving car AI сталкивается с моральными парадоксами - в случае неизбежной аварии какой выбор должна сделать машина? Кого спасать и кем жертвовать? Моральные ценности могут сильно зависеть от культуры. На что разработчик остроумно заметил, что компьютер должен учитывать национальные особенности страны, где происходит авария)).

Мы разбирали эту тему на уроке с моей преподавательницей по английскому, и она заняла довольно консервативную позицию, считая что AI не имеет право решать за человека такие вопросы. Тогда получается что в случае морального выбора AI должен действовать случайно? (имитируя действия человека).

Я с этим не согласился и сказал, что AI должен НЕ допускать аварий и контролировать не только движение на дорогах, но другие процессы жизни человечества. Чтобы не было такой ситуации - человек садиться пьяным за руль (машина не заводится), ехал бы на мотоцикле без шлема и защиты (он будет сразу задержан, благодаря системе быстрого реагирования), пешеход не сможет перебежать дорогу в неположенном месте (будет как-то заблокирован). И так далее. 

Но это будет означать что AI будет все больше контролировать человека (для его же безопасности), все уменьшая и уменьшая свободу его действий. Для многих это звучит как  кибер-антиутопия). Ведь если AI будет лучше понимать - что нам надо делать для нашего же блага, то логично что со временем мы начнем отдавать ему все больше и больше решений. 


Vast emptiness, nothing holy

RoadRunner

  • Administrator
  • Ветеран
  • *****
  • Сообщений: 1497
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #1 : Март 26, 2020, 11:17:39 am »
Мы разбирали эту тему на уроке с моей преподавательницей по английскому, и она заняла довольно консервативную позицию, считая что AI не имеет право решать за человека такие вопросы.
Женщины пятой точкой чувствуют, чего не надо делать ;D Объяснить толком, по-научному не могут, но чувствуют, что это к ..опе какой-то приведет.

По-научному, ..опа эта называется вырождением, т.е. гибель от нехватки энтропии, внутреннего разнообразия.

Если система (человек) переносит риски принятия решений (т.е. энтропию) вне себя (на автоматизированные системы - роботов), то рано или поздно вырождается, т.е. погибает от нехватки разнообразия внутри себя и как следствие неспособности реагировать на разнообразные внешние воздействия, выводящие его из равновесия.

Что конкретно в этом случае подпишет приговор такому вырожденному человеку, не особо важно. Может, те же роботы как в Терминаторе или Матрице. Может вирус какой-нибудь. Может ядерная война.

В общем согласен с вашей преподавательницей на все 100 )) Хотя Вы тоже, как мне кажется, нащупали правильное направление: НЕ допускать аварий. Т.е. ограничивать чрезмерные риски, энтропию. Т.е. риски, которые система ( человек) на данный момент просто не способна переварить, не разрушившись.
По возникающим вопросам в работе форума пишите либо в личные сообщения администраторам, либо на aven_serv@mail.ru.

James Walker

  • Ветеран
  • *****
  • Сообщений: 2248
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #2 : Март 27, 2020, 12:56:09 am »
"энтропия и роботы" это название книги которую я никогда не напишу...но запатентую)) 
энтропия это же "бесполезное времяпрепровождение" если брать человеческую характеристику? это немного не в тему, но умные слова я люблю)) RR вы какой смысл вложили в это слово? а то я смысл не смог построить((

я за то что бы AI не давал совершаться авариям, но для этого все участники дорожного движения на механически движущихся транспортных средствах должны быть оснащены подобной системой. Даже сейчас хватает технологического порога на реализацию данных концепций, но их надо еще отработать в массовом исполнении, когда будет большой поток данных ну и естественно развить "систему приоритета" которая в полностью сформированной АI системе будет развить легче нежели встроить AI системы в "хаос". так как участники движения пользуются одними и теми же алгоритмами. По сути самое сложное это отработать системы реагирования и оповещения при наличии пешехода на проезжей части, и варианты решения. Но! если перевести транспорт на электро тягу, или что более вероятно использовать электронные системы торможения (не знаю работают сейчас над ними, имею ввиду комбинированный тип торможения) где совместно с гидравликой или пневматикой используются электро моторы которые работают от датчиков абс  и других систем стабилизации и торможения, давая максимально допустимую нагрузку на "колесо", обеспечивая наилучшую и быстрейшую остановку, так как электромотор может достаточно быстро останавливаться имея "некоторое оснащение" (забыл как называется штука)))

думаю что развитие концепции описанной Нуаром, это очень долгий путь, который может и не дать вообще определенного результат, нежели развить его сразу "скопом" в системе АI автомобилей. НО...но никто не сможет заставить людей сразу взять и пересесть на умные машины, даже если они будут продаваться на каждом углу по цене чипсов) люди любят привязываться к старому)) и недовольства будет куча куч, ну и если это не тоталитарное государство то с последствиями для власти. Я так думаю. 
  С уважением, ваш любитель старых v6\v8 двигателей...я первый кто пойдет на баррикады отстаивая свой неэкологичный двигатель)))
Бред...но мы это сделаем!

Noir

  • Постоялец
  • ***
  • Сообщений: 292
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #3 : Март 27, 2020, 08:13:32 am »
я за то что бы AI не давал совершаться авариям, но для этого все участники дорожного движения на механически движущихся транспортных средствах должны быть оснащены подобной системой.
Естественно. И под единым управлением (естественно в каждой машине будет и полностью автономный AI).


думаю что развитие концепции описанной Нуаром, это очень долгий путь, который может и не дать вообще определенного результат, нежели развить его сразу "скопом" в системе АI автомобилей. НО...но никто не сможет заставить людей сразу взять и пересесть на умные машины, даже если они будут продаваться на каждом углу по цене чипсов) люди любят привязываться к старому)) и недовольства будет куча куч, ну и если это не тоталитарное государство то с последствиями для власти. Я так думаю. 
  С уважением, ваш любитель старых v6\v8 двигателей...я первый кто пойдет на баррикады отстаивая свой неэкологичный двигатель)))

Не надо никакого тоталитаризма. Просто на дорогах будут ставить знак - driverless cars only. И количество таких дорог будет увеличиваться.  В итоге ездить на своем v8 можно будет вокруг своего деревенского сарая)
Vast emptiness, nothing holy

RoadRunner

  • Administrator
  • Ветеран
  • *****
  • Сообщений: 1497
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #4 : Март 27, 2020, 10:48:17 am »
RR вы какой смысл вложили в это слово? а то я смысл не смог построить((
Энтропия - это неопределенность будущего и риски, связанные с этим.

Например, у Вас есть мешок с одним шаром под номером 4. Вы запуская туда руку знаете на 100%, что вытащите шар под номером 4. Т.е. неопределенность (энтропия) опыта - нулевая, т.к. исход опыта однозначен.

И другой вариант: у Вас есть мешок с 10ю шарами с номерами от 1 до 10. И Вы также достаете шар вслепую. Неопределенность(энтропия) опыта уже гораздо выше (если быть точным - логарифм десяти).

Теперь представьте, что один из этих 10ти шаров спасет Вам жизнь, а остальные убьют (бомбы, например, срабатывающие на прикосновение или еще чего - не важно). Вот Вам и риски, связанные с этой неопределенностью ;D

энтропия это же "бесполезное времяпрепровождение" если брать человеческую характеристику?
Бесполезное времяпрепровождение - это другое, я думаю. Потому что польза - это понятие относительное, субъективное. Каждый полезность оценивает по-разному. И кто-то ее видит, кто-то нет. Т.е. объективно бесполезных, бесцельных занятий не бывает. Только на чей-то субъективный взгляд.

З.Ы. Хотя для тех, кто ее (пользы) не видит, человек, занимающийся таким "бесполезным" занятием представляет собой дополнительный источник энтропии и рисков: не знают, что он выкинет, а потому боятся)

Не надо никакого тоталитаризма. Просто на дорогах будут ставить знак - driverless cars only. И количество таких дорог будет увеличиваться.
Да?) Я сразу представил себе другую (но аналогичную) надпись: pilotless airplain. Welcome on board! (psychos only) ;D Как много вменяемых людей по собственному желанию на нем полетят, интересно?)) Хотя чисто технически к беспилотным пассажирским самолетам уже давным давно все готово.
По возникающим вопросам в работе форума пишите либо в личные сообщения администраторам, либо на aven_serv@mail.ru.

James Walker

  • Ветеран
  • *****
  • Сообщений: 2248
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #5 : Март 27, 2020, 06:16:24 pm »
я специально привезу свою машину на эвакуаторе к вам и буду ездить вокруг вашего сарая))) это мой протест!)))
я думаю без тоталитаризма не внедрить такую систему, в короткий срок, для того что бы она "быстрее" начала обучать сама себя. Кстати интересно как сейчас ведут себя гугл кары, перестали сбивать велосипедистов, и как сильно они распространены. У теслы пока с переменным успехом. У бмв была реализация автопилота, в некоторых комплектациях, и по тестам на закрытой площадке он отрабатывал неплохо, но он устроен был таким образом, что он просто запоминал действия водителя, так как все идет по кан-шине, и эбу знает когда и на сколько градусов нажимался руль, педаль итд. Но что то не вижу каких то продолжений этой системы, хотя может нам в РФ душу этим не травят.
Бред...но мы это сделаем!

RoadRunner

  • Administrator
  • Ветеран
  • *****
  • Сообщений: 1497
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #6 : Март 27, 2020, 09:48:41 pm »
Адаптивный круизконтроль то еще не могут толком сделать - работает через раз, достаточно обзоры на разные авто бегло посмотреть. Какие на хрен беспилотники)
По возникающим вопросам в работе форума пишите либо в личные сообщения администраторам, либо на aven_serv@mail.ru.

James Walker

  • Ветеран
  • *****
  • Сообщений: 2248
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #7 : Март 27, 2020, 10:08:04 pm »
так, нука тихо! живо начали верить счастливое будущее и беспилотники! а ни то расстрел!))
Бред...но мы это сделаем!

Noir

  • Постоялец
  • ***
  • Сообщений: 292
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #8 : Март 28, 2020, 08:37:54 am »
так, нука тихо! живо начали верить счастливое будущее и беспилотники! а ни то расстрел!))

Ну ну. Первый еще сам на такую тачку пересядешь.  Раньше это казалось фантастикой...

https://www.youtube.com/watch?v=tlThdr3O5Qo
Vast emptiness, nothing holy

James Walker

  • Ветеран
  • *****
  • Сообщений: 2248
    • Просмотр профиля
Re: Moral Machines: How culture changes values​
« Ответ #9 : Март 28, 2020, 01:50:09 pm »
ну нет, у меня своеобразный вкус на авто, и чем оно новее тем оно для меня "фу")) 
Бред...но мы это сделаем!