Четверг, 7 ноября, 2024

Новое на сайте

ДомойОбществоОт опасностей искусственного интеллекта продолжают упорно отмахиваться

От опасностей искусственного интеллекта продолжают упорно отмахиваться

«Людей держат за идиотов, которым ничего не надо убедительно объяснять»

Вы покупаете билет на самолет, а вам говорят: все замечательно, вас ожидает приятное путешествие, вот только есть «10–20% вероятности», что самолет рухнет. Это же немного, верно? 20%, может быть, даже 10%. Это совсем мало. Почему бы не купить билет и не надеяться на лучшее?

В России, по словам главы ВЦИОМ Валерия Федорова, 77% технооптимистов. Но, честно говоря, я не знаю такого технооптимиста, который купил бы билет на этот самолет.

А вот когда миллиардер Илон Маск, посвящающий львиную долю своего времени и денег разработкам в сфере искусственного интеллекта, заявляет, что существует двадцатипроцентная вероятность, что искусственный интеллект уничтожит человечество (но призывает думать об остальных восьмидесяти процентах и да — буквально «наслаждаться поездкой»), — почему-то никто не спешит забить тревогу и озаботиться тем, что происходит. Все хотят быть технооптимистами. Я тоже хочу. Но я хочу, чтобы меня успокаивали убедительно.

Убедительно — это не так, как делает академик Игорь Каляев, когда говорит, что «если сильный искусственный интеллект будет превращаться в угрозу человечеству, его просто можно отключить от источников электроэнергии». Когда слушаю такой прогноз — в первую очередь слышу: «ИИ может превращаться в угрозу человечеству». И для меня далеко не факт, что на этой стадии его «просто» можно будет отключить от источников электроэнергии.

Убедительно — не так, как это делает инженер Марина Минникова, когда отмечает, что люди всегда будут превосходить ИИ, потому что у них есть эмпатия, и тут же перечисляет, какие особые качества должен развивать человек, чтобы «оставаться актуальным в эпоху ИИ». На мой взгляд, люди должны оставаться актуальными в любую эпоху, даже если у них нет никаких особенных качеств: в этом состоит самая суть эмпатии, сердцевина поддержки человека человеком.

Убедительно — не так, как это делает еще один известнейший миллиардер Билл Гейтс, когда говорит, что «прогресс неостановим», и надо стремиться развивать ИИ скорей-скорей, ведь «плохие парни» наверняка этим займутся, а мы-то еще не совсем плохие парни и не должны отставать! Истерическая спешка «чтоб кто-нибудь другой не опередил» — уж точно не то, что может успокоить.

Убедительно — не так, как это делает банкир Герман Греф, когда в Совете Федерации заявляет, что «искусственный интеллект будет менять всё, все сферы деятельности людей» и при этом «будет делать выводы не на основе данных, которые мы в него поместили, а исходя из собственной картины мира».

А как тогда?

Прежде всего необходимо, чтобы людям очень конкретно объясняли, почему в тех или иных узких сферах может быть полезен искусственный интеллект. Подчеркну: именно в конкретных, избранных, узких сферах, а не «вообще всех», как хочет Греф. Потому что когда Илон Маск говорит, что даже в случае исполнения самого оптимистичного сценария ИИ приведет человечество к «экзистенциальному кризису», — он как раз хорошо поясняет, что имеет в виду: «Если машина может делать все то же, что и вы, только лучше, в чем тогда смысл что-то делать?»

Вот это — убедительное пояснение. Я не хочу, чтобы машины умели делать все то же, что и мы. Это первейшая отсечка. Должно быть очень четкое, точечное, выверенное, взвешенное распределение того, что позволено делать ИИ, а куда его прямо не следует пускать, прямо следует запрещать. С той же неуклонностью, с какой нормальный человек не пускает тараканов ползать по своим продуктам. Мы почему-то это не разрешаем, хотя, если не проводить микроскопические исследования, тараканы ведь «просто бегают»…

Читать также:
России впервые за 30 лет увеличилось количество курильщиков

Конечно, меня как человека пишущего беспокоит будущее моей сферы деятельности. В частности, когда заместитель директора Института языкознания РАН Игорь Исаев говорит, что «отличить написанное искусственным интеллектом уже почти невозможно, я бы не взялся», — я не понимаю, почему он лишь констатирует, а не бьет тревогу. Ну, хотя бы не проводит конференции на тему, почему это опасно и плохо. Что это опасно и плохо — обосновать совсем нетрудно, и я лично возьмусь подготовить обстоятельный доклад на эту тему, если Исаев меня позовет. Ручаюсь: его можно будет отличить от написанного искусственным интеллектом.

Но мое беспокойство выходит далеко за пределы моей сферы деятельности. Например, я считаю категорически вредным представлять искусственный интеллект арбитром справедливости. Это, кстати, одна из последних американских разработок: ученые из Университета Карнеги–Меллона и Технологического института Стивенса спроектировали модель ИИ, которая распределяет средства исходя из «равного отношения к группам, которые различаются по экономическому уровню, расе, этническому происхождению, полу и другим категориям». Модель даже учитывает, как отказ в кредите повлияет на жизнь каждого конкретного гражданина, — вот какая справедливость и «оптимизация социального обеспечения»!

Так вот: машина в принципе не должна принимать такие решения. Пусть их принимают люди, пусть люди будут ошибаться, пусть люди будут недовольны — но пусть они сохранят связь, прямую взаимозависимость друг от друга. Машину в принципе нельзя пускать в эту сферу. Есть живые вещи, которые должно быть прямо запрещено формализовывать. Некоторым нравятся французские регулярные сады, и они действительно могут производить впечатление, но стремление превратить мир во французский регулярный сад должно расцениваться как маниакальное. Само стремление, задолго до реализации.

Возвращаясь к тому, что хочу быть технооптимисткой, не могу не затронуть вот еще какой важный момент: почему-то поклонники прогресса, которые так жаждут «сокращения углеродного следа», что всячески порицают бензиновые автомобили и вступают на тропу борьбы с коровами, выпускающими газы, — почему-то эти прогрессоры не выказывают озабоченности тем, что ИИ уже сейчас потребляет очень, очень много электроэнергии. Прямо-таки в масштабах, сравнимых с развитыми европейскими странами. И это не становится поводом перестать пропихивать ИИ дальше во все сферы деятельности. А вот вы, дорогие граждане, должны быть сознательными и сократить потребление мяса, чтобы бороться с глобальным изменением климата.

Я хочу быть технооптимисткой — хотя бы для того, чтобы веселее было жить на свете, — но я не могу примириться с тем, что людей держат за идиотов, которым ничего не надо убедительно объяснять. И так поступают те, кто не несет никакой ответственности за свои действия (это необходимое условие для того, чтобы держать людей за идиотов).

То, что в конечном итоге мы все в одной лодке — все, и даже господа прогрессоры еще могут при своей жизни раскаяться в том, что натворили, — это, конечно, успокаивает. Но слабо.