Эбен Моглен: «Пришло время принять первый закон робототехники для смартфонов»

27

Gladosiri


Семьдесят лет назад Азимов придумал «первый закон робототехники», который должен был бы помочь роботам будущего соблюдать безопасные для человека правила. Звучит он примерно так: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». По планам фантаста к 2015 году даже самые примитивные дроиды будут следовать этой аксиоме. Интернет-активист Эбен Моглен (Eben Moglen) полагает, что время уже на подходе, а мы не видим самого главного: наши смартфоны все еще не следуют этому закону.

Как пишет Forbes, Эбен Моглен считает, что наши iPhone и Android должны следовать первому закону робототехники, иначе мы увидим совсем не то будущее, которого ждем. А что случится? Siri захватит власть? Как показывают исследования теории искусственных интеллектов, если бы подобный механизм появился, первое, что он сделал бы в процессе своего развития — тщательно скрыл следы своего существования.

Впрочем, тему того, что азимовские законы робототехники должны быть включены в алгоритмы функционирования Siri, я поднимал еще в декабре. Давайте теперь послушаем Эбена Моглена. Приведем его трехминутную проповедь целиком.

Эбен Моглен

«Мое поколение, появившееся на свет в середине 20 века, выросло с мыслями о свободе и технологиях, навеянных научной фантастикой 60-х. Научная фантастика прозорливо указала нам на то, что в середине первой четверти 21 века роботы будут вокруг нас повсюду.

Она была права. Будут. У них нет рук и ног. Они не подносят нам напитки. Не пылесосят (хотя некоторые из них — пылесосы).

Большую часть времени мы — тела. Мы руки и ноги. Мы берем их с собой везде и всюду. Они все видят, знают о каждом нашем шаге, о наших отношениях с другими людьми и другими роботами. Они находятся в информационном потоке вместе с нами, и возможно, знают нас лучше нас самих.

Но мы выросли с мыслями о том, что у роботов будет свой собственный запрограммированный ряд принципов. [Здесь Моглен цитирует первый закон робототехники].

Мы думали, что роботы, построенные таким образом, никогда не смогут навредить человеку. Но у наших роботов нет обязательств. Они вредят нам ежедневно.

Они работают на других людей. Они спроектированы и построены для работы на своих настоящих хозяев. Если мы сразу не включим в их работу законы робототехники, мы обречены. Они берут наши деньги. Отнимают нашу независимость. Шпионят за нами.

Уже сейчас есть люди, которые сидят за решеткой за то, что взяли свой iPhone на демонстрацию или использовали Facebook для организации политических действий.

Как только ваш мозг работает с роботом, который работает не на вас, вы уже не свободны. Вы под контролем.

Если вернуться к литературе пятидесятилетней давности, все эти проблемы были предусмотрены. Многие из нас выросли под влиянием идей, которые говорили о том, что технологии должны быть под контролем. Сейчас мы находимся перед решающей чертой».

I, iPhone

Forbes отмечает, что хотя Эбен Моглен не вдается в детали, в его словах есть доля правды. Действительно, некоторые мобильные устройства тайно хранят данные о ваших перемещениях или социальных действиях. Придет время — и оператор выдаст всю вашу сокровенную информацию спецслужбам. Моглен утверждает, что вне зависимости от того, будет это обычное Android-устройство или iPhone с джейлбрейком, проблема находится куда глубже. Придется проникать в самую суть вещей и контролировать процессы на всем пути от устройства к облаку, чтобы заставить смартфоны работать так, как нужно людям, то есть тем, для кого эти смартфоны создаются.

Что касается моих комментариев по этому поводу, то честно говоря, Моглен сильно драматизирует ситуацию. Те условия, которые были описаны у Азимова, даже если счесть их с метафорой, сильно расходятся с нашей действительностью и перспективой 2015 года. Контроль спецслужб и беззащитность операторов перед высшим руководством надолго останется неотъемлемой частью нынешнего мира технологий, только если в ближайшем будущем не появится набор «Сделай себе смартфон с собственным алгоритмом шифрования и собственной сотовой сетью, Wi-Fi в подарок».

Вполне вероятно, что Моглен стал заложником романтических идей научной фантастики прошлого века, а это сильно расходится с тем, что мы имеем сейчас. Как думаете, все так серьезно или первый закон робототехники еще потерпит?

27 комментариев

  1. 0
    zhdanich

    шикарная статья

    • 0
      Иван

      zhdanich, Моглен прав. Автора в бан.

      • 0

        Иван, Полностью согласен с Могленом, думать надо уже сейчас. Такими темпами мы можем прийти к тому что мы не сможем откатится назад, удобство пользования современными устройствами всегда должно идти после личной безопасности человека.
        (отправлено из приложения AppleInsider.ru)

  2. 0

    Черт побери а он прав!
    (отправлено из приложения AppleInsider.ru)

  3. 0
    RONIN427

    Да уже давно пора начинать чесаться.
    (отправлено из приложения AppleInsider.ru)

  4. 0
    alleader

    Мой айфон попросил его почесать
    (отправлено из приложения AppleInsider.ru)

  5. 0

    Особенно первая картинка статьи понравилась))))

  6. 0

    Ээээ, ты чё мой ник взял?!?!
    (отправлено из приложения AppleInsider.ru)

  7. 0

    Не в кассу… Aperture Laboratories и Apple очень схожи!

  8. 0
    maromaks

    хрень не ?

  9. 0
    Elvis271

    Заключение понравилось

  10. 0

    Я думаю, что на данном этапе это все фигня, пока нам не стали встраивать этих роботов в наше тело 🙂
    И второй момент: пока девайсы не могут сами заряжаться от источника питания и менять аккумуляторы без вмешательства человека, можно спать спокойно.
    (отправлено из приложения AppleInsider.ru)

  11. 0
    Алекс

    Шведы контролируют весь интернет трафик России.киберармии давно ведут невидимую войну.
    (отправлено из приложения AppleInsider.ru)

  12. 0
    Серый Волк

    Мне нравится этот айфон)

  13. 0
    Андрей

    Ни один из трёх законов робототехники работать не будет, пока существуют люди, которые могут запрограммировать робота на любые действия, вплоть до убийства. Начинать надо с себя…
    (отправлено из приложения AppleInsider.ru)

  14. 0
    Алексей

    Прикольно, когда Вася из Бобруйска или Петя из Крапивья начинает голосить про спецслужбы и свою независимость. Да дались мы все, 95% населения земли, спецслужбам =))) живите спокойно, подколпачники неутомимые)))

  15. 0

    Мы все умрем
    (отправлено из приложения AppleInsider.ru)

  16. 0
    Николай Б.

    пора начинать уже потихоньку, иначе мы и не заметим как все случится

Авторизуйтесь Чтобы оставить комментарий