Умные машины будут убивать

Информационное пространство до сих пор потряхивает от истории, которая произошла на Большом Сампсониевском проспекте в Петербурге. В сеть попало видело, на котором потрясенный водитель ходит вокруг своего премиального седана, прошитого насквозь досками строительных лесов

Водитель нервно рассказывает о том, что «электронные мозги» не дали ему повернуть руль и объехать сужение дороги, вызванное ремонтом. Напротив, по его словам, автомобиль сам повернул руль и устремился на препятствие. Доски вошли в лобовое стекло в районе сиденья переднего пассажира, прошли наискосок через весь салон и вышли через заднее стекло. Водитель чудом остался цел. Пассажиров в машине, к счастью, не было. Иначе им бы не поздоровилось.
И все сразу занялись обсуждением того, могла ли машина так поступить или мужчина отвлекся от дороги, а потом записал видео, чтобы оправдаться за произошедшее перед женой. Конечно, исключать такой возможности нельзя, но по видео на то непохоже. Уж очень взволнован водитель. Уж очень близко он был к роковой черте, чтобы спустя пару минут так самозабвенно врать. Не уверен, что даже очень хороший актер на это способен. Но я не ставлю перед собой частный вопрос, могла ли эта конкретная машина попытаться убить водителя. Дело в том, что я давно ответил себе на более общий вопрос: могут ли современные «умные» машины убивать. Мой ответ — да, и сейчас я объясню вам почему.
…Румыния, лето 2018 года, я беззаботно еду за рулем Jaguar E-Pace по какому-то неизвестному мне шоссе. В этой стране я первый раз, но навигационная система автомобиля работает в Европе, даже в Восточной, безупречно. Это в России лучше пользоваться навигатором в телефоне, а здесь автомобиль знает каждый светофор и поворот. Внезапно электронная приборная панель и экран мультимедийной системы Jaguar гаснут. Я не знаю, с какой скоростью еду и когда мне нужно поворачивать. Все данные, которыми машины обычно делятся с водителями, оказываются для меня недоступны. При этом автомобиль не глохнет и продолжает движение как ни в чем не бывало. Благодаря накопленному за десятилетия стажа и годы тест-драйвов опыту я не предпринимаю каких-то резких движений, просто стараюсь ехать с той же скоростью прямо. При этом ищу глазами съезд на второстепенную дорогу, где можно будет остановиться. Ведь я не знаю, как машина поведет себя дальше, вдруг она заглохнет прямо посередине шоссе? Пока я думаю, приборная панель и экран «мультимедийки» оживают. «Электронные мозги» перезагружаются, и дальше оба дисплея работают нормально. Все закончилось хорошо, но что было бы, начни я паниковать?
Вы можете сказать, что приведенный мной пример неубедителен. Хорошо, держите второй.
…2019 год, еду на Infiniti QX50 по МКАД. Я недавно получил эту машину и ехал на ней по этому участку впервые. Внезапно под эстакадой электронные помощники автомобиля резко бьют по тормозам. И это в левом ряду на скорости 100 км/ч. Слава богу, никто не влетел Infiniti в задний бампер. Но я тогда хорошо представил, какими словами меня называли водители сзади. Ведь для постороннего зрителя «мое» поведение было абсолютно неадекватным. Лишь спустя пару недель, проезжая в том же месте на другом тестовом автомобиле, я понял, в чем дело. Опора эстакады была нестандартной и слегка выступала в сторону проезжей части, нависая над так называемой полосой для мотоциклистов. Помните, в те времена они любили ездить между отбойником и левым рядом. Машина посчитала опору внезапно возникшим препятствием и затормозила. Представляете, какими могли быть последствия в случае моего неадекватного ответа на такие действия автомобиля? Или если бы водитель сзади зазевался и «пнул» мой автомобиль. На таких скоростях машины разлетаются по шоссе, как кегли, по дороге сбивая себе подобных. Я уже не говорю про сырые системы безопасности, которые пытаются удерживать автомобиль по центру полосы, когда мне нужно сместиться к ее краю.
Таких примеров я могу привести еще много. Машина никогда не заменит человека в сложной работе, которая требует смекалки и принятия нестандартных решений. А мы, передавая электронике все больше функций, соглашаемся с тем, что она может нас убить. Это неприятно, но это правда.
P. S. Что стало причиной аварии в Петербурге, выяснится в ходе расследования. Но для нас это не имеет ровным счетом никакого значения. И еще, искусственный интеллект — это не только стандартные алгоритмы, но и ответственность. Надеюсь, все это понимают.