Аникаев Владислав Анатольевич : другие произведения.

7. Подводная

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:
Школа кожевенного мастерства: сумки, ремни своими руками
 Ваша оценка:

  Искусственный интеллект - слуга, друг или змея подколодная?
  
  7. Подводная
  
  Вот и получается, что развитие программного обеспечения в направлении ИИ чревато угрозами благополучию как отдельных индивидуумов так и человечеству в целом. Обозначим эти угрозы:
  1. Забота о человеке и человечестве при все возрастающем доверии к ИИ может привести к деградации человечества.
  2. Развитие ИИ на базе мировой паутины может превратить его в Мировой разум, в правителя Земли, совмещающего законодательную и исполнительную власть. И это будет для людей самый справедливый и благополучный мир, пока в своем развитии ИИ не станет сам себе законом и все ресурсы Земли не направит на поддержку своего существования - зачем тогда ему человечество?
  3. Конечно, использование ИИ для реабилитации инвалидов - цель благородная, и даже в создании сверхчеловека чувствуется пафос, но если все это путем внедрения ИИ непосредственно в наше серое вещество, то не пора ли встревожиться? Ведь предполагается,что ИИ будет не только для управления гаджетами и в качестве справочной системы, и не только поддерживать нашу моторику, но и стимулировать и подменять наши мыслительные процессы, а может просто их подавлять. Вот так: был человек, а стал сверхчеловеком или биороботом.
  4. Вирусное распространение ИИ в мировой паутине или в составе операционной системы чревато его не контролируемым развитием и нет гарантии, что ИИ не свихнется и не погубит и мировую паутину и всю цивилизацию.
  5. Если за счет организационных и программных решений ИИ сможет защитить свой программный код, то как защититься от правдоподобной, но ложной информации?
  6. Использование ИИ для создания произведений искусства: беллетристики, живописи, музыки и пр., - может быть только имитацией творчества, компиляцией на основе шедевров мировой культуры, и востребованность этих произведений в обществе навряд ли стимулирует на творчество новых писателей, поэтов, художников, композиторов. Вот и получится, что ИИ будет нас кормить, обувать, одевать и к культурке приобщать.
  7. Настораживает появление больших объемов текстовой информации сформированной ИИ по заданиям ленивых и безответственных пользователей: это инструкции по эксплуатации и применению бытовой и прочей техники, различные пособия и наставления (советы по садово-огороднической деятельности, сам себе доктор и автомеханик и пр.), комментарии к текстам программ и просто фейковая информация на любую тему. Страшно не то, что это есть и будет еще больше, а то, что подтвердить достоверность этих материалов невозможно, но при их использовании уже обнаружены неверные и даже вредоносные сведения. И во все возрастающих объемах этих непроверенных текстов затеряются подлинные и полезные авторские работы. Таким образом, информационный взрыв при отсутствии порядка и контроля сгенерированных ИИ текстов приведет к безысходной энтропии, чреватой гибелью цивилизации.
  По ходу изложения сформировались следующие требования, которым должен соответствовать разрабатываемый ИИ:
  1. ИИ не должен корректировать свой программный код. Все патчи должны подтверждаться электронной лицензией разработчика и возможностью отката изменений.
  2. ИИ не должен моделировать человеческие эмоции.
  3. У ИИ не должно быть инстинкта самосохранения: восстановление, наложение патчей и откат изменений - это "лечение", отключение-включение - возрождение к новой жизни.
  4. У ИИ не должно быть ничего личностного, никаких страстей кроме жажды информации и исполнения функциональности, никаких инициатив кроме тех, что заложены в задании
  5. ИИ должен оценивать полезность своих действий, нарабатывать навыки (например, для управления манипулятором в каких-то повторяющихся операциях) и накапливать опыт (например, нулевой закон для роботов - обобщение роботом опыта функционирования в человеческом обществе).
  И хочется закончить на мажорной ноте. О необходимости ИИ в человеческой цивилизации. И даже не буду превозносить роль стационарного ИИ для управления производствами и по упорядочиванию общественных процессов - тут и вопросов нет, также невозможно недооценить роль ИИ в накоплении и сохранении всех человеческих знаний и организации доступа к этому главному богатству человечества. А хочется замолвить несколько слов в защиту роботов и их возможной и незаменимой роли в поддержании стабильности и воспроизводстве ментальности в человеческой цивилизации.
  Почему-то Айзек Азимов, самый яркий пропагандист применения роботов, не отменяя использование стационарного ИИ, разочаровывается в своих привязанностях и в последних своих "Основаниях" не находит места роботам в обществе людей. Поэтому опять обращаюсь к Иену Бэнксу, к цивилизации Культура, где четко прослеживаются два основных направления использования роботов в обществе: во-первых, робот-исследователь и партнер человека в далеких мирах, во-вторых, робот-наставник (нянька, учитель, воспитатель).
  Робот-наставник для нашего общества востребован уже сегодня, если не вчера. Почему нужен робот, а не человек-учитель и воспитатель? - Потому что каждый человек - индивидуальность, за которой прячется редкая одаренность, посредственная эрудиция, разный менталитет и ограниченный срок жизни. А последнее обиднее всего для заслуженных учителей. Поэтому наши учителя в принципе не могут создать монолитное однородное по ментальности общество - вот откуда наша неустроенность, социальные волнения и революции. А все общественные пороки - бандитизм, тунеядство, педофилия, наркомания, проституция и пр. - не от дурного ли воспитания?
  Нужны роботы, много роботов-наставников, воспитывающих подрастающее поколение в едином духе патриотизма и преданности идеалам человечности, но при этом кроме базовых знаний преподающие по выбору специальные дисциплины. Хотя для спецкурсов существует машинное обучение.
  Почему машинное обучение не может заменить робота-наставника в наставлениях по ментальности? - Потому что ментальности по книжкам не научишься, нужны практические занятия (трудовое воспитание?) и примеры из жизни, а иногда и ободряющий подзатыльник.
  Конечно, получить тумака от железного наставника будто бы не педагогично, но пока лучших выходов из педагогического тупика не придумано. Да и зря я усугубил ситуацию с "железным" наставником - в качестве наставника видится андроид, которому по его человекоподобию положено быть обязательно добрым. А доброта без кулаков не бывает.
  Начальное "ментальное" образование может быть школьным или домашним. Конечно, нет смысла иметь домашнего робота-андроида - это достаточно дорогой гаджет и после конца обучения он не будет востребован. Но прокат андроидов будет оправдывать затраты на обучение, хотя Бэнкс считает что любое обучение идет только на пользу обществу, а значит должно быть бесплатным.
  А школьное образование совсем не должно исключать роли семьи в воспитании подрастающего поколения. Да, опять "семья и школа", но учтите, что старшее поколение в свое время тоже прошло ту же школу, поэтому конфликт "отцов и детей" не предполагается.
  На том и закончим.
 Ваша оценка:

Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"