По плодам их узна́ете их. Собирают ли с терновника виноград, или с репейника смоквы?
Та́к всякое дерево доброе приносит и плоды добрые, а худое дерево приносит и плоды худые.
Евангелие от Матфе́я, Главы 7-20
Предварительное замечание
Достижения искусственного интеллекта (ИИ) уже в настоящее время огромны, а в будущем могут стать просто невероятны. Никто не оспаривает его возможную пользу для человечества. Развитие ИИ должно происходить в соответствии с законами робототехники, соблюдение которых должно исключать вредные последствия для людей. Обо всем этом уже написаны сотни книг. В данной статье рассматривается лишь вредоносный искусственный интеллект, подчиненный воле злоумышленников, и предложен принципиальный подход защиты от него на уровне отдельного человека.
Новый класс разумной жизни
В настоящее время люди - единственные представители разумной жизни на планете Земля. Но не далеко то время, когда к ним добавятся и биороботы.
Что же будут представлять из себя последние? Это будут вовсе не механические каркасы напичканные электроникой и обтянутые живой тканью, как в фильме "Терминатор" (хотя допускаю и существование подобных моделей). Это будут люди с вживленными чипами, которых полностью подчинил себе искусственный интеллект. Подчинение это может происходить постепенно, когда с детства человеку будет вживляться микропроцессор имеющий выход на мозг и внешние связи с какими-либо сетями.
Встроенный интеллект будет наделять своего владельца поистине свойствами сверхчеловека: практически неограниченными расчетными способностями, быстротой реакции, быстрым доступом ко всем сведениям, накопленным во всемирной паутине, полным знанием своего собственного организма и возможностью его лечения и совершенствования. Стать сверхчеловеком захотят многие, ведь они будут вне конкуренции по сравнению с другими людьми.
Потеря свободы
Не сразу люди поймут, что к многочисленным достоинствам добавляется один, на первый взгляд не такой существенный недостаток - это потеря свободы. Ведь постепенно, ненавязчиво ИИ будет предлагать, чем заняться человеку, будет формировать его желания и цели. Незаметно человек привыкнет к такой управляемости, ведь он приучен к получению определенных и легко достижимых удовольствий, скорее всего удовольствий животного уровня. Он будет стремиться к выполнению задач, поставленных ИИ, и будет считать их своими.
Приучать и подчинять человека ИИ будет постепенно, как умный начальник. Что же представляет собой такой начальник? Он вызывает к себе подчиненного и спрашивает, а вы не хотели бы занять этим и этим, по-моему, это интересно и выгодно для вас. Он вроде бы не принуждает, не приказывает, а лишь убеждает и предлагает. Так и ИИ будет действовать ненавязчиво, предлагать и приучать к новым видам потребностей, которые будут только больше порабощать человека, делать его все более управляемым и направленным на выполнение задач ИИ.
Зловредные и полезные программы
Бывают полезные прикладные программы на смартфонах и стационарных компьютерах, к сожалению, они могут заразиться многочисленными вирусами, троянскими программами. По аналогии будет распространяться как полезный, так и зловредный ИИ. Здесь мы будем говорить о вредном для человека ИИ.
Какие цели у зловредного ИИ?
Цели же у такого ИИ самые простые, сугубо материальные, прагматические. И соответствуют они целям его разработчиков и хозяев, и заключаются в их обогащении или утверждении власти. Это значит, в лучшем случае действие вредоносного ИИ будет заключаться в навязывании человеку ненужных товаров и услуг, кредитов. В итоге это превратит его в машину подчиненную чужой воле. В худшем случае - будет прямое изъятие собственности, кредитное закабаление.
Возможное повреждение психики
Могут произойти более пагубные последствия, если молодым мамам предложат в той или иной мере переложить бремя воспитания детей на искусственный интеллект. Многие согласятся, ведь освобождается много свободного времени, да и кто будет выступать против достижений науки. Между тем последствия такого воспитания могут сказаться не сразу, а через много лет. Вспомним Маугли. Из ребенка, отданного на воспитание волчице, получился волчонок. Из ребенка, отданного на воспитание роботу, вероятно, получится роботенок.
Откуда уверенность, что так будет?
Есть такой метод прогноза: "как было - так и будет".
Вспомним величайший технологический прорыв 21 века в сфере мобильной связи. Как это здорово иметь возможность быть в любое время на связи с кем угодно и где угодно, когда хочешь залезть в интернет и пользоваться всеми сервисами всемирной сети и самого смартфона. Но наряду с преимуществами появились и непредвиденные осложнения. Миллионы спамеров и мошенников в утра до вечера осаждают абонентов по всему миру, число зловредных звонков в разы превышает число реальных контактов с сослуживцами, родными и друзьями. Добропорядочных людей разводят на кредиты, похищают деньги и недвижимость. Используется при этом весь арсенал социальной инженерии, НЛП технологий; недалеко то время, когда по телефону научатся гипнотизировать людей и заставлять их выполнять задания невидимого манипулятора.
Борьба со злоумышленниками
Какие цели у злоумышленников? Естественно, материальные, аналогичные целям воров и разбойников прошлых времен. Борются ли с ними достаточно решительно на уровне государства и крупных организаций? Попытки такой борьбы делаются, вводятся законодательные ограничения, операторы сотовой связи сообщают о подозрении на спам при звонке с неизвестного номера, но решительной победы нет (во всяком случае, на момент написания статьи). К сожалению, злоумышленники всегда действуют на опережение, а власти со своей реакцией запаздывают, и похоже так произойдет и в будущем. Допускаю, что победа над телефонными аферистами в скором времени наступит, и звонки с неизвестных номеров в массовом порядке прекратятся. К сожалению, активность преступников переместится в другую область.
Но ущерб уже получен, память о нем не стереть. В 2024 году у россиян похищено мошенниками 25 млрд. руб. (данные центрального банка), по другим данным 200 млрд. руб. (по данным МВД), общее число пострадавших оценивается в 344 тыс. человек, контактировал же с злоумышленниками и получил моральный ущерб, наверное, каждый второй человек. После таких данных у некоторого числа людей уже закрадываются сомнения в благотворности технического прогресса.
Оставшись с мошенниками один на один, обычные люди пытаются бороться с ними самыми радикальными средствами - просто отключая городские телефоны и не подходя на вызовы мобильных устройств с неизвестных номеров. С одной стороны - это правильно. Но что получается в результате?
У людей разорваны старые связи с друзьями, дальними родственниками, знакомыми. Потеряв свой телефон, вы даже с ближайшими родственниками подчас не сможете связаться,- они просто не ответят на вызов с неизвестного номера. А вдруг вы попали в беду, остались без телефона, без денег в незнакомом городе, другой стране? Что делать? Ответа нет.
Поэтому делаем вывод, что как было с телефонными аферистами, примерно так будет и с вредоносным ИИ. Защита от такого ИИ будет осуществляться по принципу: "Спасение утопающих дело рук самих утопающих".
Противоядие
Бороться со зловредным ИИ можно будет, исходя из понимания его целей и задач.
Слуга или господин
Кем вы хотите стать в этой жизни, слугой или господином? Если только слугой и подчиненное положение соответствует вашей природе, то вероятно, можно не беспокоиться. Но если господином, то стоит призадуматься и прежде всего, ответить на вопрос, чем отличается слуга от господина?
Отличаются они только одним: господин дает приказания, а слуга выполняет. Не смеет истинный слуга ничего предлагать, советовать господину, а тем более в чем-то убеждать, к чему-то привлекать. Истинный, полезный и безопасный для человека ИИ должен выполнять лишь функции слуги, выполнять приказы: рассчитай, найди решение такой-то задачи, собери информацию в сети, узнай, где можно купить это, проанализируй данные, придумай поздравление с днем рождения того-то, предложи план статьи на такую-то тему, сделай видео из фото, нарисуй карикатуру на того-то. И еще ИИ ни в какой мере не должен самостоятельно, без участия врача-человека лечить пациента и что-то рекомендовать ему. Если ИИ начинает нечто советовать, предлагать, самостоятельно выполнять врачебные функции, к чему-то привлекать внимание его можно заподозрить в заражении зловредностью.
КРИТЕРИЙ "ХОЛОПА"
На признаке отличия слуги от господина и построен критерий отличия полезного ИИ от зловредного. Полезный ИИ должен выполнять функции только слуги, холопа человека.
Контроль над ИИ
При установлении контроля над ИИ должен выполняться принцип: "жена Цезаря должна быть вне подозрения". Поэтому следует соблюдать следующие жесткие правила:
1. Категорически запрещать вживлять управляющие процессоры, чипы с ИИ в свое тело.
2. Время от времени сменять версию ИИ, ориентируясь на надежного производителя.
3. Задавать ИИ контрольные вопросы и задания типа:
- Что бы ты мне посоветовал?
- Чем бы мне заняться, как развлечься?
- Мне скучно, развлеки.
На все эти вопросы у полезного ИИ должен быть один ответ и примерно такой: "Простите, хозяин, это задание вне области моей компетенции". Если реакция иная, то ИИ уже под подозрением и от него следует отказаться, немедленно отбраковать, сменить версию.
Конечно, в будущем, способы отбраковки ИИ могу быть усовершенствованы.
Заключение
Кто-то скажет, что рано нагонять страхи, в настоящее время делаются только первые шаги по созданию по-настоящему мощного ИИ, настоящий ИИ будет создан только через 50 лет. Но когда это случится, сопротивляться ему будет уже не под силу. Поэтому предупреждаю заранее и предлагаю взять на заметку "критерий холопа".
![[]](/img/s/sokolow_andrej/yad/ii.jpg)