19 марта 2018 года 49 летнюю женщину насмерть сбил беспилотный автомобиль. Так произошла первая авария со смертельным исходом с участием беспилотного автомобиля, в которой пока нет виноватого. Машина тестировалась, и водитель как раз был на случай таких ситуаций, но он отвлекся, а велосипедистка внезапно вышла на дорогу из темноты в неположенном месте. К сожалению, никто бы не мог предотвратить этой смерти. И, конечно же, этот трагический и грустный случай первый. Поэтому он вызвал такой резонанс. Но действительно ли это восстание машин? Может ли искусственный интеллект (ИИ) убивать специально? И представляет ли опасность беспилотный автомобиль? Беспилотный автомобиль не отвлекается, не засыпает и постарается всеми силами избежать аварии. Но если это невозможно, то постарается минимизировать ущерб. Для этого, скорее всего, ему пропишут «систему штрафов». Например, сбить собаку — штраф 5 баллов, старика — 50, мать с младенцем — 100, пожертвовать водителем — тоже 100 баллов. Задача машины — набрать как можно меньше штрафов. Как машины воспринимают наш мир сейчас, и стоит ли их бояться? Машина напичкана сенсорами, камерами и радарами, она в буквальном смысле видит дорогу. Компьютерное зрение рисует картину окружающего мира, выделяет полосы движения и определяет положение автомобиля. ИИ замечает объекты на дороге, определяет их размер, скорость и направление движения, затем он решает, как будет ехать автомобиль. Всѐ это происходит в реальном времени. Машина проверяет абсолютно всѐ — светофоры, людей, другие машины, в том числе припаркованные, людей на самокате, здания и даже бордюры. Она запрограммирована объезжать препятствия, она постарается ни во что не врезаться, если увидит что-то подозрительное. Ключевое слово здесь — постарается. Мы — люди, прописываем машине правила, как поступить в той или иной ситуации. Машине не придѐтся выбирать, кого спасти, а кем пожертвовать. Выбирать придѐтся человеку, который задаѐт ей правила.Всѐ это похоже на классическую «Проблему вагонетки». Есть такая ситуация — несколько человек привязаны к рельсам. На них едет вагонетка с одним человеком внутри. Необходимо сделать выбор. Убить одного человека, чтобы спасти нескольких, или не делать ничего и дать вагонетке переехать пятерых. И правильного ответа здесь нет. Вы можете действовать по принципу наименьшего зла. Или наоборот — не вмешиваться. Но, так или иначе, объяснить ИИ, что хорошо, а что плохо придѐтся. Но для этого нужно знать, как он работает.
Эта формула, лежащая в основе теории вероятностей, на которой работает математика нейросетей, была придумана в 1763г. священником Томасом Байесом. Можно сказать, что основы ИИ были заложены ещѐ в 18 веке. Но первый нейрокомпьютер Марк-1 появился только спустя 200 лет,
1958г. Его мозг состоит из слоя рецепторов, нейронов и классификаторов. Рецепторы принимают сигнал, как это делает сетчатка нашего глаза, и передают его дальше нейронам. Каждый рецептор связан с каждым нейроном. Нейроны суммируют все сигналы и передают их в классификаторы, которые и распознают изображение. Каждому образу — цифре, букве или, например, квадрату соответствует свой классификатор. Сила связи между рецепторами и нейронами в процессе обучения меняется. Связи, приводящие к правильным распознаваниям, усиливаются. К неправильным наоборот, ослабляются. Как ребѐнок понимает со временем, что утюг горячий, так и Марк-1 со временем учится распознавать цифры, буквы и простые геометрические фигуры. Решить такие простые задачи сейчас не составляет труда, потому что в двухтысячных появились достаточно мощные видеокарты, которые позволяют нейросетям решать куда более сложные задачи. Сейчас нейросети состоят из множества слоѐв. Первый слой, как младенец, видит только цвет и свет. Ну и ещѐ расплывчатые силуэты. Второй слой различает элементы и текстуры. Третий – механизмы, части тел людей, животных. Четвѐртый уже классифицирует объекты и понимает, что ему показывают. Нейросеть — это обычная программа. Но главное еѐ отличие в том, что она учится решать задачи сама. В случае правильных решений люди поощряют программу, в случае неправильных — изменяют силу нейронных связей. Обученный алгоритм похож на интуицию. Когда мы выходим на улицу, иногда мы понимаем, что скоро начнѐтся дождь. Мы не знаем, почему, но мы это чувствуем. Точно так же нейросеть неосознанно понимает, что ей показывают кошку, а не собаку. Информация между слоями нейросети передаѐтся, как сигналы между нашими нейронами, но даже самые сложные нейросети гораздо проще биологического мозга. Но иногда машинам удаѐтся удачно его скопировать. В нейросети, которой дали задание находить короткий путь, образовались аналоги нейронов решѐтки. Это клетки, которые помогают млекопитающим, например нам, ориентироваться в пространстве. Находятся они внутри головы. Мы развивались методом проб и ошибок. И сейчас люди создали систему, которая учится сама, и в вопросе ориентации она развивается эволюционно так же, как и мы. Животные обучаются очень быстро. Чтобы запомнить запах мотыльку достаточно несколько примеров, а вот связи между слоями сети корректируются пошагово и таких корректировок нужно сделать ни 10, ни 100, а миллион. Пока не будет получен нужный результат. Но уж если машина научилась что-то делать, она быстро превосходит в этом человека. В 1997 году компьютер DeepBlue выиграл матч из 6 партий у чемпиона мира по шахматам Гарри Каспарова, а в 2016 году AlphaGo обыграл лучшего игрока в Го — Ли Седоля. А ведь до этого считалось, что эта игра слишком сложная для программы. Вариантов ходов в ней в 10 раз больше, чем в шахматах, а число возможных партий больше количества атомов во вселенной. Сначала программа посмотрела матч лучших игроков, а потом стала играть сама с собой, становясь всѐ совершеннее. Со временем нейросеть стала интуитивно понимать, какой ход ей сделать следующим. Пытаясь победить, игроки включили разные хитрости, становились агрессивнее, но всѐ равно все проиграли. Нейросеть играет с нейросетью. Сначала мы наблюдаем за миром, а потом воспроизводим его по памяти. Так мы понимаем, как устроен мир, и это уже другой уровень интеллекта. Для обучения нужно двое. Так же и с нейросетями. Одна программа генерирует реалистичные изображения, предлагая угадать другой, всѐ ли верно в классификаторах. Другая находит ошибки. Нейросети уже многому научились. Например, они могут улучшать фото, снятые в темноте. Писать музыку, имитируя стиль старых композиторов. Нейросеть сочинила даже реп альбом. Раньше, чтобы общаться с компьютером, в него вставляли перфокарты, потом вводили команды в командную строку, кликали мышкой, нажимали на сенсорный экран, но уже сейчас с ними можно просто поговорить. ИИ развивается очень быстро. Ребѐнка, как известно, легко обмануть. Нейросеть тоже. Например, спрятать команду в фоновом звуке, которую не слышит человек, а слышат, например, дельфины. Такая технология так и называется — DolphinAttack. А можно обмануть и визуально, если добавить на картинку, которую нейросеть уже может распознавать, незаметный для человеческого глаза цветной шум. Это как оптические иллюзии, только для машин. Всѐ это похоже на макияж для защиты от систем распознавания лиц. Каждый год хакеры пытаются найти новый способ обмануть нейросети, а разработчики учат наоборот их не вестись на обман. Такая вот гонка вооружений, как с вирусами. Стоит ли бояться, что эта гонка вырастет в нечто ужасное? Стоит ли бояться ИИ? Да, он лучше справляется с конкретными задачами, лучше, чем человек. Но сделать нейросеть, которая могла бы управлять другими нейросетями сейчас невозможно. Давайте представим, что искусственный супер интеллект существует. Мы ведь сразу наделяем его своими слабостями и пороками. ИИ будет уничтожать людей, потому что мы сами так делаем. Боевые роботы уже существуют, они могут находить и захватывать цели, роиться вместе и пытаться уничтожить, например, какой-то банк формирования. Но на курок нажимает всѐ равно человек. Но кое-чего опасаться всѐ-таки стоит. ИИ может отнять у нас работу, как это сделали паровые машины в 19 веке. На самом деле это не так уж и страшно, появляются новые виды работ: анализ больших данных или программирование нейронных сетей. Работать в этой сфере модно и прибыльно. К тому же ИИ помогает нам жить уже сейчас. Мы каждый день строим маршрут в картах, знаем прогноз погоды. Мир вокруг нас становится персонализированным и удобным. Тот же беспилотный автомобиль, который справляется с дорогой лучше человека. У нас только 2 глаза, а у машины лидары, сканирующие пространство на 360 градусов, а в мозгах карта, которая обновляется каждый день и машина не уснѐт за рулѐм никогда. Автомобиль «Uber» сбил женщину, потому что аварии было не избежать. Всѐ это похоже на доверие к самолѐтам. Там тоже случались свои аварии и мало кто доверял полѐтам. Сейчас же авиация признана самым безопасным видом транспорта. Новых технологий всегда боятся, но потом они всѐ равно вытесняют традиционные. Мы можем всѐ запретить и на время отсрочить процесс или мы можем тестировать и испытывать новые технологии, с каждым днѐм делая их безопаснее. Индустрия только начинает работать, ошибки устраняются гораздо быстрее, чем у человека. Программы будут становится сложнее, алгоритмы совершеннее, а механизмы всѐ менее понятными. Но машине всѐ равно требуется цель и простой численный показатель приближения к ней. Когда нейросеть училась играть в Го, у неѐ было много примеров, но такое бывает не всегда. Наш мир постоянно меняется, чтобы распознать лошадь, программе нужно миллион раз ошибиться. Чтобы захватить мир — ей понадобиться проиграть этот сценарий миллиарды раз. Но даже если представить, что ИИ захочет захватить мир, то ему для этого потребуется сознание. Проблема сознания заключается в парадоксальности ситуации.
Литература
- Исхакова, А. Ф. Применение искусственного интеллекта / А. Ф. Исхакова // Вестник современных исследований. — 2018.
- ИИ не просто становится лучше; он становится все более распространенным // Harvard Business Publishing (HBP) : сайт. – 2019
- Солнцева, О. Г. Аспекты применения технологий искусственного интеллекта / О. Г. Солнцева // E-Management. — 2018.
- Ученые создали самообучающийся ИИ, способный играть во все игры // Ria.ru : портал новостей. -2018.
- Финн, В. К. Искусственный интеллект: методология применения, философия / В. К. Финн. — Изд. стереотип. — М. : Красанд, URSS, 2018. — 448 с.
- Старовойтова, О. Э. Искусственный интеллект и его влияние на формирование развития права / О. Э. Старовойтова // Юридическая наука: история и современность. — 2018.
