Эбен Моглен: «Пришло время принять первый закон робототехники для смартфонов»

Семьдесят лет назад Азимов придумал «первый закон робототехники», который должен был бы помочь роботам будущего соблюдать безопасные для человека правила. Звучит он примерно так: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». По планам фантаста к 2015 году даже самые примитивные дроиды будут следовать этой аксиоме. Интернет-активист Эбен Моглен (Eben Moglen) полагает, что время уже на подходе, а мы не видим самого главного: наши смартфоны все еще не следуют этому закону. Как пишет Forbes, Эбен Моглен считает, что наши iPhone и Android должны следовать первому закону робототехники, иначе мы увидим совсем не то будущее, которого ждем. А что случится? Siri захватит власть? Как показывают исследования теории искусственных интеллектов, если бы подобный механизм появился, первое, что он сделал бы в процессе своего развития — тщательно скрыл следы своего существования. Впрочем, тему того, что азимовские законы робототехники должны быть включены в алгоритмы функционирования Siri, я поднимал еще в декабре. Давайте теперь послушаем Эбена Моглена. Приведем его трехминутную проповедь целиком. «Мое поколение, появившееся на свет в середине 20 века, выросло с мыслями о свободе и технологиях, навеянных научной фантастикой 60-х. Научная фантастика прозорливо указала нам на то, что в середине первой четверти 21 века роботы будут вокруг нас повсюду. Она была права. Будут. У них нет рук и ног. Они не подносят нам напитки. Не пылесосят (хотя некоторые из них — пылесосы). Большую часть времени мы — тела. Мы руки и ноги. Мы берем их с собой везде и всюду. Они все видят, знают о каждом нашем шаге, о наших отношениях с другими людьми и другими роботами. Они находятся в информационном потоке вместе с нами, и возможно, знают нас лучше нас самих. Но мы выросли с мыслями о том, что у роботов будет свой собственный запрограммированный ряд принципов. [Здесь Моглен цитирует первый закон робототехники]. Мы думали, что роботы, построенные таким образом, никогда не смогут навредить человеку. Но у наших роботов нет обязательств. Они вредят нам ежедневно. Они работают на других людей. Они спроектированы и построены для работы на своих настоящих хозяев. Если мы сразу не включим в их работу законы робототехники, мы обречены. Они берут наши деньги. Отнимают нашу независимость. Шпионят за нами. Уже сейчас есть люди, которые сидят за решеткой за то, что взяли свой iPhone на демонстрацию или использовали Facebook для организации политических действий. Как только ваш мозг работает с роботом, который работает не на вас, вы уже не свободны. Вы под контролем. Если вернуться к литературе пятидесятилетней давности, все эти проблемы были предусмотрены. Многие из нас выросли под влиянием идей, которые говорили о том, что технологии должны быть под контролем. Сейчас мы находимся перед решающей чертой». Forbes отмечает, что хотя Эбен Моглен не вдается в детали, в его словах есть доля правды. Действительно, некоторые мобильные устройства тайно хранят данные о ваших перемещениях или социальных действиях. Придет время — и оператор выдаст всю вашу сокровенную информацию спецслужбам. Моглен утверждает, что вне зависимости от того, будет это обычное Android-устройство или iPhone с джейлбрейком, проблема находится куда глубже. Придется проникать в самую суть вещей и контролировать процессы на всем пути от устройства к облаку, чтобы заставить смартфоны работать так, как нужно людям, то есть тем, для кого эти смартфоны создаются. Что касается моих комментариев по этому поводу, то честно говоря, Моглен сильно драматизирует ситуацию. Те условия, которые были описаны у Азимова, даже если счесть их с метафорой, сильно расходятся с нашей действительностью и перспективой 2015 года. Контроль спецслужб и беззащитность операторов перед высшим руководством надолго останется неотъемлемой частью нынешнего мира технологий, только если в ближайшем будущем не появится набор «Сделай себе смартфон с собственным алгоритмом шифрования и собственной сотовой сетью, Wi-Fi в подарок». Вполне вероятно, что Моглен стал заложником романтических идей научной фантастики прошлого века, а это сильно расходится с тем, что мы имеем сейчас. Как думаете, все так серьезно или первый закон робототехники еще потерпит?

Эбен Моглен: «Пришло время принять первый закон робототехники для смартфонов»

Лонгриды для вас