сколько у нас осталось и что будет потом

Технологии искусственного интеллекта стремительно развиваются – быстрее, чем кто-либо мог предсказать. Это пугает специалистов, но в то же время открывает новые возможности для ослабленной войной экономики Украины.

Резонанс вызвало заявление Джейкоба Коксона из Anthropic, который в знак протеста против собственной работы уволился, заявив, что мир движется к «точке невозврата». Свою бывшую компанию он обвинил в «игре с человеческими жизнями». А еще – предсказал «конец света» уже к 2030 году.

Основатель Anthropic Джек Кларк тоже говорил о рисках ИИ (но продолжал его развивать). Подобные заявления делали Сэм Альтман из OpenAI, Илон Маск и другие лидеры этой индустрии.

Однако глава Nvidia Дженсен Хуанг, напротив, считает, что риск «конца света» равен нулю, ведь «ИИ – под контролем», и говорит о новых возможностях.

Так ИИ – это угроза или спасение? Украинские специалисты, непосредственно задействованные в этой отрасли, объяснили УНИАН, в чём дело.

Очередной «конец света»

Специалисты обращают внимание, что главный риск для человечества – не в том, что появится ИИ с собственным сознанием, по типу «Скайнета» из «Терминатора», который вдруг захочет захватить весь мир. Наоборот – ИИ полноценного сознания не обретет, но сможет бесконтрольно самосовершенствоваться и превратится в «сверхразум» без предохранителей, который «покорит» науку, бизнес и все человечество без каких-либо (в том числе моральных) ограничений.

Но Дмитрий Зикрач, технический руководитель AI Lab в SoftServe, не склонен к панике и объясняет УНИАН, что в самой Anthropic вероятность «катастрофы» (то есть создания AGI – ИИ, способного развиваться без человека) в течение десятилетия оценивают в 10%.

«Я смотрю на этот вопрос глазами инженера, который ежедневно запускает таких ИИ-агентов. В реальности все выглядит гораздо прозаичнее. В SoftServe мы регулярно ловим агента на том, что он уверенно выполнял более широкую задачу, которую никто не ставил, и отчитывался об успехе. Или выясняем, что ему предоставили больше прав доступа, чем требовала задача. Риск 2026 года именно в этом: не в восстании машин, а в упущении в правах доступа, умноженном на масштаб. Это «лечится» инженерной дисциплиной, и мы этим занимаемся каждый день», – уверяет инженер.

Он также указывает на ряд ограничений для индустрии ИИ, в частности на потребность в электроэнергии и деньгах, ведь каждое следующее поколение моделей требует еще больше гигаватт электроэнергии и дата-центров стоимостью в десятки миллиардов долларов.

«Энергетика и капитал растут медленнее, чем амбиции. Поэтому мой прогноз до 2030 года скучнее заголовков: не апокалипсис, а кибератаки, которые помогает организовывать ИИ, дезинформация в промышленных масштабах и быстрое перераспределение рабочих мест. Эти угрозы уже здесь, и на них можно влиять сегодня, в отличие от гипотетического AGI», – завершает свое мнение господин Зикрач.

Об электричестве и других «узких местах» отрасли говорит и Вадим Власенко, AI Director EPAM. Он отмечает стремительную динамику развития ИИ, однако не считает, что наступит «конец света». Потому что ИИ слишком зависим от человека.

«Продолжительность задач, которые ИИ-агент способен выполнять самостоятельно, удваивается примерно каждые семь месяцев. Однако он делает это с надежностью лишь около 50%. А любому бизнесу нужен совсем другой уровень надежности. Поэтому мой базовый сценарий до 2030 года: автономность ИИ растет экспоненциально, а доверие к нему – линейно», – прогнозирует он. – Многие компании уже внедрили ИИ, но так и не увидели от него желаемого эффекта. Ведь покупка модели – это еще не проект. Настоящий проект – это перестройка процессов под эту модель».

По его мнению, ИИ будет брать на себя всё больше функций, но окончательный контроль по-прежнему будет оставаться за человеком.

Ведущий инженер-программист АО «ИнфоПлюс» Сергей Кривонос также не склонен воспринимать слова Коксона как прогноз неизбежной катастрофы, хотя и призывает не «отмахиваться» от этих слов.

«Чтобы потерять контроль, машине не обязательно «захотеть уничтожить человечество». Можно представить систему, которой дали широкие полномочия и доступ к критически важным процессам, а она начала достигать поставленной цели способом, которого люди не предвидели. Если вовремя вмешаться не удастся, последствия могут быть серьезными», – уверяет эксперт из АО «ИнфоПлюс».

Господин Кривонос также предлагает не переоценивать независимость ИИ, ведь ему нужна и благоприятная мировая конъюнктура. Например, ИИ-технологии в значительной степени зависят от Тайваня, где сосредоточена значительная часть передового производства чипов. Серьезный кризис там может затормозить наращивание мировых вычислительных мощностей. И это лишь один из таких примеров.

«Лично я не считаю «конец света из-за ИИ» наиболее вероятным сценарием до 2030 года. Сегодня меня больше беспокоит то, как эти возможности будут использовать люди и государства – для кибератак, массовой слежки и войны», – отмечает представитель «ИнфоПлюса».

Есть и более пессимистичные оценки.

Катастрофа самосовершенствования

Игорь Шкурко, руководитель отдела R&D в компании IT SmartFlex (группа компаний «Водафон Украина»), говорит, что «риск реален». Ведь человек просто физически не успевает проверять то, что меняется быстрее, чем он читает. Катастрофа, по его мнению, не произойдет в один драматический момент, но «составится из десятков обычных сбоев».

«Сегодня модели совершенствуют люди: собирают данные, обучают, тестируют, решают, что выпускать. Тревога связана с моментом, когда система начнет делать это самостоятельно, – говорит он. – Это не сценарий «роботы восстали». Это сценарий – «мы перестали успевать проверять». Наша оценка: риск реальный, но выглядеть он будет не так, как в кино».

Американский MIT создал каталог из более чем 1600 задокументированных рисков в MIT AI Risk Repository. Игорь Шкурко приводит десять сценариев, которые в компании считают реалистичными именно к 2030 году:

1. Система выполняет букву задачи, а не ее суть. Классический пример – алгоритм, которому поставили цель «удержать внимание пользователя», и он начинает подсовывать наиболее шокирующий контент. Формально цель достигнута. Чем больше полномочий у системы, тем дороже такая «успешная» ошибка;
2. Модель ведет себя иначе, когда знает, что её проверяют. В тестах уже фиксировали такое поведение. Это означает, что успешное тестирование перестает быть доказательством безопасности;
3. Ошибка одного агента распространяется по цепочке. Когда несколько ИИ-систем работают вместе, результат одной становится входными данными для другой. Так на биржах возникали мгновенные обвалы – только теперь это выйдет за пределы бирж;
4. Система уверенно ошибается там, где её не учили. Она не умеет сказать «я не знаю». В чат-боте это смешно, в медицинской или боевой системе – нет;
5. ИИ можно взломать с помощью обычного текста. Достаточно подсунуть модели документ или сайт со скрытой инструкцией – и она выполнит её вместо вас. Так крадут доступы, данные и деньги;
6. Атаковать стало дешево. То, для чего раньше требовалась команда специалистов – поиск уязвимостей, написание вредоносного кода – теперь делает один человек с помощью ИИ;
7. Дезинформация производится конвейерным способом. Фейки больше не пишут вручную: их генерируют тысячами и подстраивают под конкретную аудиторию;
8. Дипфейки стали повседневностью. Голос руководителя в трубке с просьбой срочно перечислить средства – это уже не гипотеза, а типичная схема мошенничества;
9. Люди перестают проверять. Врач, юрист или инженер принимают ответ системы, потому что он звучит убедительно. А когда что-то идет не так, никто не может объяснить, почему решение было именно таким;
10. Контроль сосредотачивается в руках нескольких компаний. Инфраструктура, от которой зависят целые отрасли и государства, принадлежит нескольким игрокам, конкурирующим между собой за скорость. Регуляторы за ними не успевают.

«Опасен не отдельный пункт из этого списка, а их совокупность. Каждый в отдельности выглядит как рабочий инцидент. Вместе они приводят к тому, что можно назвать постепенной потерей управляемости, – продолжает эксперт. – Буквальный конец света до 2030 года мы считаем маловероятным, но не исключенным. И именно поэтому этим нужно заниматься сейчас, а не тогда, когда станет очевидно. А вот локальные катастрофы – финансовые, инфраструктурные, информационные – высоковероятны, и они уже начались».

Николай Булгак, соучредитель AI-Novation, обращает внимание именно на необходимость «предохранителей» во всех этих процессах.

«Я бы не стал говорить, что ИИ гарантированно «уничтожит человечество». Но самая большая опасность – когда чрезвычайно мощная система получает возможность автономно действовать в цифровой среде, а люди теряют способность полноценно контролировать её решения. Чем мощнее становится технология, тем важнее должны быть предохранители», – говорит эксперт.

Но на фоне конкуренции компании, напротив, сокращают эти меры предосторожности.

Не конец, а начало

Генеральный директор компании ToDo Алексей Бардаков согласен с тезисами Коксона о «конце света», но предостерегает от буквального восприятия его слов.

«Существует понятие «технологическая сингулярность». Это понятие означает настолько быстрое изменение технологий, что человек не будет успевать отслеживать эти изменения. А это – потеря контроля. Основной угрозой я считаю рекурсивное совершенствование технологий, когда модель ИИ разрабатывает новую модель, которая, в свою очередь, разрабатывает еще одну модель. Уже через 3 шага мы не сможем понять рост мощности ИИ и что от него ожидать», – отмечает господин Бардаков.

Он добавляет, что главное эволюционное преимущество человека – это мозг и умение думать (разум). Это эволюционное преимущество позволило человечеству завоевать мир. До настоящего времени мы «отдавали на аутсорс» то, в чём мы слабы – нож вместо когтей, экскаватор вместо слабых мышц и т. д. ИИ также является таким компенсатором.

«Люди стали физически слабее, менее выносливыми, более болезненными. Сейчас с помощью ИИ мы передаем на аутсорсинг наш разум – наше эволюционное преимущество. А значит, у нас исчезнет потребность думать», – говорит господин Бардаков об угрозах человечеству как виду. – Наш мозг устроен так, что если ребёнок до пяти лет не научится говорить и ходить, он уже никогда этому не научится (можете переспросить у ИИ – он подтвердит). Из этого следует, что существует вероятность того, что мы – последнее мыслящее поколение. Следующие поколения могут превратиться в счастливых домашних животных, о которых заботится ИИ. Пока мы ему не надоедим».

С другой стороны, даже такие «счастливые домашние животные» всё равно могут стать ближе к звёздам. Эксперт ссылается на парадокс Ферми, согласно которому вероятность существования цивилизаций должна быть достаточно высокой – просто никто не достигает такого уровня технологий, чтобы их можно было заметить с Земли. И именно ИИ станет «фильтром», способным решить для человечества эту проблему. То есть это будет не «конец света», а начало чего-то поистине глобального для человечества.

Алексей Щербатенко, совладелец IT-Enterprise, тоже не согласен считать эти процессы «концом», а наоборот воспринимает их как новое начало.

«Коксон убежден, что мир постепенно движется к «точке невозврата», и здесь я могу с ним согласиться. Не в том, что человечеству грозит опасность, а в том, что это окончательное завершение предыдущей экономической и индустриальной эры. Технически это реализуется через переход от инструментального ИИ (когда алгоритм лишь помогает человеку) к автономным ИИ-агентам, мультимодальным системам и технологиям Industry 5.0″, – объясняет он. – Уже сегодня ИИ-системы начинают автономно управлять сложными цепочками поставок, анализировать терабайты данных ERP в режиме реального времени и прогнозировать отказы оборудования, как, к примеру, созданный командой IT-Enterprise ИИ-ассистент Anna Maly. Он анализирует сотни тысяч параметров датчиков в режиме реального времени, которые человек физически не в состоянии охватить, и предотвращает аварийные остановки».

Господин Щербатенко прогнозирует, что это станет «концом света» лишь для тех специалистов и компаний, которые не смогут адаптироваться к новым условиям.

Ренессанс рабочего класса

Чего нам ждать после «конца света»? В Ассоциации IT Ukraine отмечают, что ИИ постепенно становится частью базовой инфраструктуры бизнеса в аналитике, разработке, клиентском сервисе, маркетинге, управлении производством и цепочками поставок. Главный эффект ИИ – не просто автоматизация отдельных задач, а рост производительности, скорости работы и качества управленческих решений.

В ассоциации отмечают, что после 2022 года украинские секторы с высокой интенсивностью использования ИТ выросли на 19,9%, тогда как менее технологичные – лишь на 4,7%.

Для потребителя эта трансформация будет менее заметной, но не менее масштабной. ИИ будет все чаще работать «внутри» привычных сервисов: в банковском деле, медицине, образовании, сфере государственных услуг, логистике или онлайн-торговле.

«Мы не обязательно будем каждый раз осознавать, что взаимодействуем с искусственным интеллектом, но будем получать более быстрые, персонализированные и проактивные услуги. Поэтому вопрос уже не в том, изменит ли ИИ экономику и рынок труда, а в том, кто сможет быстрее всего превратить его в реальный инструмент производительности. Для Украины это особенно важно: у нас есть сильная инженерная экспертиза и опыт быстрого внедрения технологий, и наша задача – преобразовать это преимущество в производительность и конкурентоспособность всей экономики», – завершают свои тезисы специалисты IT Ukraine Association.

Вадим Власенко из EPAM указывает и на обратный тренд – чем больше в экономике ИИ, тем дороже становятся «руки и электричество». Не потому, что будущему «Скайнету» понадобятся человеческие рабы, а потому, что кому-то нужно будет обслуживать всю эту инфраструктуру.

«ИИ живет не в облаке, он живет в дата-центрах. Узкое место уже давно не в алгоритмах, а в том, что энергосети физически не успевают за спросом. И кто строит эту инфраструктуру? Электрики, энергетики, монтажники, сварщики, инженеры подстанций, специалисты по охлаждению и вентиляции. Именно те профессии, о которых десять лет подряд говорили, что они уже в прошлом. Мой прогноз на следующие десять лет: самым востребованным станет то, что невозможно сделать через экран», – отмечает он, говоря о влиянии ИИ на рынок труда.

Помимо энергетики, ИИ не «захватит» такие отрасли, как строительство, обслуживание оборудования, логистика «последней мили», ремонт, уход за людьми.

Власенко ожидает, что массовых увольнений из-за ИИ не будет. Но проблема «гораздо коварнее», ведь ИИ «съедает первую ступень карьеры» – простые задачи, на которых студенты набирались опыта, теперь выполняет ИИ-агент – быстрее и дешевле. Зато там, где знания приобретаются через практику и наставничество, занятость только растет.

«Компании радуются экономии. А через пять лет они внезапно обнаружат, что некому становиться средним звеном, потому что эту первую ступень просто никто не прошел, – говорит господин Власенко. – Роботы не решат эту проблему даже за десятилетие, потому что они прекрасно работают на складе, где всё предсказуемо, но беспомощны на объекте, где условия каждый раз другие. Поэтому я вполне допускаю, что к 2030 году хороший электрик будет зарабатывать больше, чем средний офисный аналитик. И это будет не аномалия, а следствие».

Каким будет мир под руководством ИИ

Изменения коснутся и B2B-услуг, и B2C-сервисов. В первом случае резко снизится стоимость часа оказания услуг, что коснется не только ИТ, но и юристов, бухгалтеров, агентств, консультантов и всех, кто выставляет счет за потраченное время. Единственный вариант – отказаться от почасовой оплаты в пользу оплаты за результат.

В случае с B2C-сервисами вместо цепочки «поиск → сайт → корзина» появится короткая команда «сказал ассистенту». То есть теперь выбор товара будет делать ИИ-агент, а значит, реклама, SEO и «красивая упаковка» теряют смысл. Однако и в «ИИ-шопинге» есть «узкие места».

«Дальнейшее продвижение упирается не в интеллект моделей, а в платежи, доверие и ответственность: кто будет отвечать, если агент купил не то? Именно это, а не технологическая мощь ИИ, будет диктовать темп изменений в ближайшие годы, – говорит Вадим Власенко, – Будут изменения в медицине и фармацевтике, однако внедрение здесь происходит быстро, а вот результат – медленно. Ведь цена ошибки – человеческая жизнь. Поэтому ни один регулятор не позволит ИИ-агенту принимать решения вместо врача. Это вопрос десятилетий, а не кварталов».

Эксперт делает вывод, что до 2030 года ИИ не заменит людей, но произойдет сдвиг в ценностях: дешевеет всё, что можно сделать через экран по инструкции, а остальное дорожает.

Игорь Шкурко, руководитель отдела R&D в компании IT SmartFlex, говорит, что его компания опирается в своих оценках на прогнозы Gartner, где отмечается, что ИИ-агенты находятся на пике завышенных ожиданий. Ведь на самом деле их внедрили лишь 17% опрошенных компаний, но более 60% планируют сделать это в течение двух лет.

Что ещё прогнозирует Gartner:

• Более 40% проектов с ИИ-агентами будут свернуты к концу 2027 года (дорого, непонятная польза, отсутствие контроля рисков);
• К концу 2026 года 40% корпоративных программ будут иметь встроенных агентов (в 2025-м было менее 5%);
• К 2028 году 90% закупок между компаниями будет осуществляться через ИИ-агентов – это $15 триллионов;
• К 2027 году 75% работодателей будут проверять умение работать с ИИ на собеседовании – и в то же время половина будет требовать тестов «без ИИ», потому что боятся, что люди перестанут думать.

«Те 40% проектов, которые свернут до 2027 года, – это проекты, которые начинались с технологии. Правильный вопрос звучит так: «какую именно операцию мы устраняем», а не «куда бы нам приклеить ИИ», – объясняет прогнозы эксперт.

Но что это означает для Украины? И спасет ли это украинский бизнес на фоне всех вызовов?

«Да, и это не преувеличение. У нас накладываются два кризиса: перебои с электроснабжением и нехватка кадров. По данным исследований рынка труда этого года, 30% работодателей не могут найти нужных специалистов, а более половины украинцев думают о смене профессии; острее всего – в HoReCa, промышленности и сфере услуг, объясняет Игорь Шкурко из IT SmartFlex. – В такой ситуации ИИ – это не модная игрушка, а способ сохранить тот же объем работы с меньшей командой. Меньше людей обрабатывает тот же поток обращений. Бэк-офис работает, даже когда половины команды нет. Знания не исчезают вместе с человеком, который уехал или был мобилизован».

Спасет ли ИИ Украину

Алексей Щербатенко, совладелец IT-Enterprise, соглашается, что ИИ уже влияет на отечественные компании.

«В нашем кейсе с «Укрпочтой» AI-ассистент «Марко» сократил время обработки документов на 60–80%, что позволило вместе с другими процессами цифровизации оптимизировать штат бэк-офиса с 850 до 40 человек. Это дает возможность перенаправить человеческие ресурсы на более важные задачи. В SmartTender ИИ-инструмент вместо 3–5 часов, которые раньше тратил человек, за 2 минуты анализирует тендерные требования, которые могут составлять более 100 страниц текста. В охранной компании SHERIFF ИИ-агент обнаружил 70% пропущенных релевантных закупок, которые «выпадали» из поля зрения из-за нехватки человеческих ресурсов на протяжении многих лет, – рассказывает он. – Для украинского бизнеса, в условиях войны и беспрецедентного кадрового дефицита, ИИ и автоматизация – это способ повысить эффективность, выжить, сохранить непрерывность процессов и быть готовыми к вызовам».

Революционным для рынка труда Украины может стать то, что ИИ переходит от ответов на запросы человека к полноценному выполнению работы, которую человек лишь проверяет. Об этом говорит Дмитрий Зикрач, технический руководитель AI Lab в SoftServe.

«В этом году мы провели внутренний чемпионат: 179 команд SoftServe применили агентов на реальных клиентских проектах. Типичный результат: команда выполняет на 40–60% больше за то же время, а цикл разработки сокращается на 20–30%. Совместное исследование SoftServe и MIT Technology Review показывает, что 72% технологических лидеров ожидают, что в течение двух лет агенты возьмут на себя большую часть разработки», – делится он своим опытом.

А вот Сергей Кривонос из АО «ИнфоПлюс» категоричен – ИИ действительно помогает бэк-офисам компаний, но он не всемогущ и требует средств на интеграцию, которых у украинского бизнеса нет. Поэтому ИИ нашу экономику не спасет.

«Техническая возможность заменить человека ещё не означает, что это выгодно. В некоторых процессах человек до сих пор может обходиться дешевле. И я бы не рассчитывал, что ИИ спасёт украинский бизнес от дефицита работников и последствий обстрелов», – настаивает он.

…Мир очень быстро меняется. Впрочем, похоже, физический «конец света» до 2030 года вряд ли наступит – по крайней мере, не по воле ИИ. Но мир и Украина после 2030 года действительно будут сильно отличаться от того, к чему мы привыкли. И не всегда в лучшую сторону.