Сейчас нам навязывают сожительство с тем, что в принципе не соприродно нам
Ученые Питтсбургского университета (США) провели эксперимент: предложили вниманию читателей стихи известных англоязычных поэтов вперемешку со стихами, созданными искусственным интеллектом «с соблюдением стиля этих поэтов». Читатели не смогли определить, какие стихи написаны людьми, а какие сгенерированы. Больше того: если они не знали, что читают стихи ИИ, они — в среднем — оценивали их выше, чем стихи реальных поэтов. А если знали — то ниже.
Исследователи предположили, что в сгенерированных стихах неискушенным читателям нравилась простота, а сложность сочиненных человеком произведений казалась несвязной речью искусственного интеллекта.
Когда я рассказала об этом опыте в соцсети, мне сразу написали, что речь-то ведь о малокультурных читателях, которые в стихах не разбираются, а те, которые разбираются, — их на мякине не проведешь, их искусственный интеллект никогда не обдурит!
Между прочим, всего пару месяцев назад мне говорили, что искусственный интеллект в принципе не способен написать качественное стихотворение. Можно задаться вопросом: если люди не отличают живые стихи от искусственных — являются ли эти искусственные стихи качественными? И правда ли, что всегда останутся читатели-эксперты, которых искусственный интеллект не обманет?
На самом деле это несущественно. Общее падение уровня гораздо важнее того, что горстка разборчивых ценителей останется. И в стихах, созданных искусственным интеллектом, важно не то, насколько они качественные, а то, что за ними нет настоящего человеческого переживания. За ними не стоит живой человек с его болью, радостью, любовью, гневом. В сгенерированных ИИ стихах нет ничего, кроме искусного подбора. Но, как видим, действительно искусного: он может даже нравиться больше. Пока в людях еще брезжит человеческая солидарность: если они узнают, что имеют дело с ИИ, — предпочитают человека. Но на фоне настойчивого навязывания искусственного интеллекта — кто знает, как пойдет дальше?
И вот что интересно: когда доводится слышать о потрясающих достоинствах ИИ, из-за которых он должен внедряться повсюду, — это всегда ускорение. ИИ все делает быстрее, чем мы: анализирует, решает задачи, генерирует идеи, пишет тексты под запрос, создает изображения. Не сомневаюсь, что он и стихи сочиняет быстрее. Для этого, как говорят, он нам и нужен: чтобы скорей-скорей. Чтоб эффективность — в гору. Ведь люди — существа небыстрые.
Я предлагаю хорошо задуматься над этим: люди по природе небыстрые. За последние десятилетия у нас появилось много вещей, которые призваны делать жизнь проще. Но не только эти вещи не сделали нас счастливыми — а мы даже не стали успевать больше. В семьях стало гораздо меньше детей, но их воспитание не осознается как меньший труд, совсем наоборот. Мы жалуемся на дикий ритм городов. У нас участились депрессии. И нам по-прежнему не хватает времени «на себя».
У человека есть природный ограничитель скорости, и при наплевательском к нему отношении в организме начинаются расстройства. Нам нужно спать хотя бы семь часов в сутки. Да, мы можем ради энергичного рывка сократить время — но если рывок затянется, это пагубно отразится на нашем здоровье. И когда на нас сверху вываливают технологию, которая «может делать все то же, что мы, только лучше», и притом не имеет наших ограничений, — это вовсе не хорошо. Это плохо. Уже хотя бы потому, что мы не приспособлены для такого ритма. Мы ломаемся даже от меньших интервенций в естественный человеческий образ жизни. А сейчас нам навязывают сожительство с тем, что в принципе не соприродно нам. И при этом, в общем, даже не скрывают, что дела могут пойти совсем не так, как хотелось, уж очень непредсказуем этот искусственный интеллект!
Я вижу здесь очередной — особенно грандиозный — виток приватизации прибылей и национализации убытков. Когда аналитики говорят, что ИИ (возможно) вызовет невиданное процветание, если по справедливости разделить его плоды, — это звучит смехотворно. С чего бы люди, которые нас не уважают, стали обходиться с нами по справедливости? Верится с трудом. А вот когда они говорят, что ИИ несет риски, в том числе вероятность (10%, 20%) выхода из-под контроля, — это звучит как желание заранее разделить ответственность. «Мы же вас предупреждали».
Уже сейчас очевидно, что ИИ будет усиливать монополии. Он будет усиливать киберпреступность. И в то же время он будет усиливать контроль. Кроме того, он будет увеличивать энергозатраты. Что он будет уменьшать — так это человеческие навыки и человеческую уверенность в себе. Сперва: я могу это сделать сам, но ИИ сделает быстрее и лучше. Затем: я уже не могу это сделать сам.
Навыки — это всегда большая практика. И стоит ли успокаивать себя тем, что «всегда» останется горстка мастеров, которые смогут порадовать ценителей чем-то дорогостоящим, «сделанным вручную», если множество людей будут становиться все более беспомощными и все их нужды будет удовлетворять штамповка? Нам говорят: зато появится новая работа — менеджер искусственного интеллекта! ИИ будет работать, а люди — руководить! Так вот вопрос: как можно управлять работой, которую не можешь сделать сам? (Только не говорите, что полно начальников, которые так и поступают, — да, полно, и это далеко не лучшие начальники.)
Нет ни одной высокой причины, по которой нам непременно нужно внедрять искусственный интеллект. Даже то, что нам обещают необычайные прорывы в области здравоохранения, — это палка о двух концах: в чем-то он поможет сделать людей здоровее, а зато в другом — слабее и болезненнее. Высоких причин нет ни одной, но низкие есть: внедрение искусственного интеллекта идет по нарастающей, потому что «все так делают». Это уже сейчас дикая конкуренция, в которой каждый боится отстать. И это реальная, действенная причина. В том числе на уровне государств.
Что характерно: когда появилось ядерное оружие, не было прогнозов в духе «20%, что оно уничтожит человечество», но люди кое-как смогли договориться о неиспользовании. Сейчас прогнозы такие есть — а договоров о неиспользовании нет. Наоборот, есть всяческие заклинания и поощрения к повсеместному использованию. Очень уж хочется, чтобы ВВП все рос, рос и рос, а других средств к этому не предвидится.
Это и есть камень преткновения. Пока люди не осознают, что ВВП вовсе не обязан все время расти — и каждое новое поколение вовсе не обязательно должно жить благополучнее предыдущего, это даже в принципе невозможно, — будет продолжаться гонка. Нам нужно сделать шаг назад, и гораздо лучше, если мы сделаем его сознательно, чем если жизнь осадит нас принудительно. Нам нужно выйти из противоестественной гонки. Потому что взломать ДНК можно, а жизнь победить нельзя. Она наверстает множеством мелких — и не мелких — последствий, о которых мы даже не догадывались. Она все равно победит.