Kurgan-Telecom Ru | Информационные технологии

Привет, Хабр! Я Денис Макрушин, работаю в Яндексе, и вместе с командой SourceCraft Security  строю платформу для безопасной агентской разработки, а в свободное время ищу уязвимости в ИИ-агентах и иногда рассказываю об исследованиях в своем блоге. Чем дольше этим занимаюсь, тем лучше вижу тенденцию: индустрия обсуждает, что агенты умеют делать, но реже говорит о том, какие решения и как проще внедрять, чтобы сделать агентскую инфраструктуру безопаснее. Вместе с моими коллегами Ратмиром Самархановым и Андреем Погирейчиком мы решили проверить гипотезу: “наши ИИ-агенты в разработке могут быть скомпрометированы и существуют простые средства для контроля их безопасности”. Расскажем о первых результатах.

В МФТИ 53% бюджетных мест в этом году заняли олимпиадники. На биоинженерии МГУ — все 35 из 35, туда не прошли даже стобалльники. При этом вся инфраструктура олимпиадной подготовки живёт в Москве и нескольких матлицеях, а я живу в городе на сорок тысяч человек. Рассказываю, как мы с супругой — оба бывшие олимпиадники — посмотрели на первый класс сына, посчитали и ушли на семейное обучение.

Всем привет! Меня зовут Лена, я ведущий DevRel в компании Lenta Tech (ИТ-бренд «Группы Лента»). Если заголовок этой статьи привлек ваше внимание, есть шанс, что вы часто выступаете на конференциях или митапах и хотите сделать свои выступления еще круче. 

Я регулярно посещаю мероприятия как спикер и еженедельно готовлю своих коллег к выступлениям, поэтому в этой статье хочу поделиться лайфхаками и советами о том, как сделать свое выступление запоминающимся для зрителей и не слишком волнительным для вас самих.

Далее мы с вами обсудим общие советы по подготовке и отдельное внимание уделим подготовке именно ИТ-специалистов.

Нет, с ИИ-агентами так не получается.

Однако, обо всем по порядку.

В этом блоге мы много раз обращались к теме ИИ-агентов, стремительный прогресс которых может существенно изменить положение дел для тех, кто предоставляет услуги верификации всего на свете.

Нельзя сказать, что успехи ИИ-агентов опережают график, предсказанный многочисленными футурологами и футуристами (недавно я узнал, что это не одно и то же), условно говоря «кокотайлами». Нет, темпы развития примерно соответствуют предсказаниям. Но в ходе практической работы вскрываются все новые проблемы, трудности и методы их решения и обхода, которые не были видны предсказателям длинных трендов.

Конкретно в нашей отрасли услуг верификации,, появилась новая аббревиатура KYA (Know Your Agent), за которой много чего скрывается.

Для начала заметим, что сама аббревиатура — рождение маркетингового гения и сразу сбивает с толку. Она построена по образцам KYC (клиента) и KYB (бизнес), но переворачивает субъектно-объектную цепочку в обратную сторону. KYC и KYB — это, условно говоря, призыв к сервисным компаниям, которые предоставляют прикладные услуги клиентам и бизнесам. Для ответа на этот вызов они обращаются к профессионалам, вроде нашей компании IDX, отдавая эту функцию обеспечения защиты от фрода на аутсорсинг.

Призыв «Знай своего агента» вообще-то бессмысленный, тот, кто «нанял» агента, должен знать его по определению, поскольку сам должен его обучать и инструктировать для выполнения возложенных на него задач. За аббревиатурой KYA скрывается новый вызов для сервисных компаний — распознавать в онлайне обращения ИИ-агентов и принимать решения о возможности предоставления им сервиса. Поскольку ИИ-агенты пока еще своей субъектности не имеют, они должны нести с собой все верительные грамоты (credentials) своего принципала/суверена, который нанял его для выполнения задания. Таким образом, своим агента вправе называть пославший его, а не тот сервис провайдер, к кому агента послали. Правильнее было бы использовать призыв «Знай их агентов» (KTA), но уже поздно. Маркетинг такой маркетинг. С учетом этого буквоедского замечания будем продолжать использовать уже ушедшую в народ аббревиатуру.

Привет, Хабр! Сегодня мы постараемся вас удивить необычной темой. Для начала давайте попробуем на секунду представить, что у нас как у вида реально есть какое-то будущее (если регулярно читать новости, то в этом можно серьезно усомниться) и что обещаниям в пресс-релизах госкорпораций можно верить. 

Забытая на полвека Луна определенно вернулась в повестку дня — в апреле 2026 года Artemis II впервые с 1972 года совершили пилотируемый облет Луны и вернулись на Землю. Китай обещает высадку на спутнике уже в 2030-м, и, кажется, у каждой из крупнейших держав есть свой план по строительству лунной базы.

В чем самое большое отличие мира 1972 года от нашего? Правильно, интернет и всеобщая связанность устройств по сети. А это значит, как мы с удивлением поняли, что эту самую лунную базу можно будет подвергнуть DDoS-атаке! Но как этот процесс будет происходить? И какие будут последствия? Приглашаем вас в путешествие по увлекательной технической фантазии не столь уже и далекого будущего.

История ныне всемирно известной транснациональной корпорации началась в 1866 году, когда фармацевт Генри Нестле разработал продукт для искусственного вскармливания грудных детей. Он получил название Farine Lactee Henry Nestle — «Молочная мука Генри Нестле». Фирма по производству и продаже товара была учреждена уже в 1867 году.

Нестле был одним из первых швейцарских производителей, который создал логотип для своего предприятия. За основу был взят герб его собственной семьи. На нем изображена одинокая птица, сидящая в гнезде. Это была отсылка к фамилии Nestle, которая означает «гнездо» на немецком языке. 

Позже предприниматель адаптировал логотип, добавив трех птенцов, которых кормила мать. Так он хотел показать визуальную связь между его именем и продуктами компании. К логотипу он добавил надпись Nestle. Интересно, что тогда в Швейцарии не было национального законодательства по товарным знакам, поэтому логотип был зарегистрирован в Гонконге (на тот момент территории Британской империи) в 1874 году. Только в 1890 году Нестле смог зарегистрировать его в качестве швейцарской торговой марки. Товарный знак до сих пор является действующим. А в России у него еще статус общеизвестного.

Я построил автономную систему с ИИ-продактом и командой агентов-исполнителей, которая круглосуточно в несколько потоков закрывает задачи продуктового бэклога. Делюсь опытом, как я пришёл к такой схеме, что из этого получилось и при чём тут "Весёлая ферма".

Merck и Moderna объявили об успехе третьей фазы испытаний интисмерана аутогена — персонализированной мРНК-вакцины от рака, известной ранее как mRNA-4157. В исследовании INTerpath-001 участвовали 1137 пациентов с полностью удаленной меланомой стадий IIB–IV: одна группа получала стандартную терапию, пембролизумаб (он же "Китруда"), другая — то же самое плюс вакцину. При заранее запланированном промежуточном анализе комбинация обошла стандарт и по первичной конечной точке (время до возврата болезни), и по ключевой вторичной (время до появления отдаленных метастазов). Это первый в истории положительный результат третьей фазы для мРНК-вакцины против рака — направления, от которого прорыва ждали больше десяти лет, но которое ни разу не доходило до победы в решающем испытании.

В прошлую среду мы пришли на работу как обычно. Ожидали самый обычный рабочий день. Статистика сетевых отказов тоже выглядела совершенно обычно, и никаких причин ждать чего-то особенного не было.

А потом дверь распахнулась, и на пороге появился Директор. С глазами навыкате.

— Ребята! Что это?

— ???

— У меня почтовый ящик забит жалобами. Ни у кого ничего не работает. Ни у кого! Ничего!

Тут он, конечно, слегка погорячился. Не то чтобы совсем ничего и не то чтобы у всех.

Децентрализованная сущность Кошачьих Туннелей сыграла свою роль — полностью заблокировать Котика не удалось. Но для нормальной работы системе нужны трекеры — опорные узлы. На тот момент их у нас было несколько десятков: в разных странах, у разных провайдеров, в разных датацентрах.

И все они, без исключения, оказались заблокированы в России.

До единого.

Без них Котик не мог нормально подключать новых пользователей, да и у старых всё начинало работать заметно медленнее.

Поскольку за опорную сеть отвечаю я, круче всего досталось, естественно, мне.

Начался сизифов труд.

Я ввожу новые узлы, запускаю новые серверы — бац, они тоже заблокированы.

Я запускаю ещё — бац.

Ещё — бац.

В общем, долго так продолжаться, конечно, не могло. Пришлось сесть и соорудить Котатор-ротатор.

Котатор-ротатор следит за доступностью опорных серверов, автоматически останавливает те, которые по статистике чаще всего недоступны клиентам, и запускает взамен новые. Причём чем хуже ситуация, тем активнее он это делает.

А степень этой самой «хуже ситуации» с лёгкой руки Марианны Николаевны называется у нас в офисе Грохотатором.

Время, когда антивирусное ПО основывалось лишь на статическом, или сигнатурном, анализе, уже далеко в прошлом. Хотя в 2026 году оба вида анализа по-прежнему используются, они применяются не так активно, как раньше. В далёком прошлом антивирусное ПО могло делать выводы, основываясь лишь на анализе таблицы импорта, что, соответственно, вызывало множество ложных срабатываний. В результате этого появился термин "поведенческий анализ". Его основная идея заключается в том, что антивирусное ПО оценивает не только содержимое конкретного файла, но и действия, которые выполняет запущенный процесс. Система собирает телеметрию: отслеживает создание дочерних процессов, работу с файлами и реестром, загрузку библиотек, сетевую активность, попытки получить доступ к другим процессам и другие события. Каждому наблюдаемому действию или их комбинации может соответствовать определённое правило. Если процесс выполняет операцию, характерную для вредоносного ПО, ему увеличивается условный уровень подозрительности.

Собственно, рассмотрим примитивный пример в контексте поведенческого анализа. В системе появляется новый процесс с именем winloggon.exe - уже здесь внимательный наблюдатель заметит проблему, легитимный процесс называется winlogon.exe, а одна лишняя буква в имени для вируса вполне может оказаться попыткой замаскироваться под системный процесс под невнимательность пользователя. После инициализации наш герой совершает первую ошибку: обращается к реестру и прописывает себя в Run.

Ошибка первая. Самый примитивный способ записать себя в автозагрузку. CmRegisterCallbackEx позволяет зарегистрировать обратный вызов для операций с реестром. Процесс изменил нужный ключ - телеметрия уже собрана. Но, наш вирус как вы поняли, останавливаться не собирается. Следующим шагом он загружает прямиком с диска чистую библиотеку.

Ошибка вторая. Антивирусный мини-фильтр файловой системы получает возможность наблюдать операции с файлами в виде IRP. Создание, открытие, запись, переименование - всё это уже находится в поле зрения системы защиты. Если файл появился в подозрительном месте, был создан неизвестным процессом, а затем сразу загружен этим же процессом, у нас появляется ещё одно событие. Но допустим, наш вирус достаточно глуп, чтобы пойти дальше. Он устанавливает соединение с удалённым сервером.

Ошибка третья. После чего в игру вступает антивирусный WFP драйвер - Windows Filtering Platform. Сетевой стек Windows позволяет системе защиты получать информацию о сетевых операциях и принимать решение, разрешать соединение или нет. В результате winloggon.exe, который только что прописал себя в автозагрузку, создал подозрительный файл и теперь пытается установить соединение наружу, оставляет ещё один вполне заметный след.

В результате чего основываясь на сборе телеметрии, начислении баллов, мы получаем не одно определенное событие, а полноценную законченную картину:

Две недели назад в комментариях к моей статье про скриптовый язык для Wiremock со мной связался автор языка «Эллочка» — Эрих Генрихович Гаузер, создавший этот интерпретатор ещё в 1999 году для DOS. Мне стало дико интересно, что это за зверь: никаких исходников, только описание синтаксиса на сайте автора. За час с помощью ИИ я реализовал базовый интерпретатор на Zig под Windows, а за 9 часов — все 62 оператора языка. В статье рассказываю, как воссоздать язык программирования по одному лишь описанию, почему пришлось «укрощать» Claude через промежуточные вопросы в других нейросетях, и как запустить оригинальные DOS-игры «Змейка» и «Питон», написанные автором четверть века назад.

Как курс английского, построенный на повторении, оказался самым полезным, что я изучал, — и почему любой разработчик за пределами англоязычного мира рано или поздно сталкивается с тем же выбором.

Фото: little Gabriel, Unsplash

Мне было четырнадцать, когда я решил, что школа не научит меня английскому.

Шёл 2009 год. Я учил немецкий и не любил его — не сам язык, а тот факт, что его выбрали за меня. К тому времени я уже писал первые строки кода и заметил вещь, которая казалась мне очевидной и, судя по всему, никому вокруг: любой язык программирования, который я хотел выучить, был документирован на английском. Любой ответ на форуме. Любое сообщение об ошибке. Любая книга, которую стоило читать.

Так что я попросил записать меня куда-нибудь всерьёз. Так я оказался в Британский Центр в Тбилиси, в двухэтажном здании на улице Пекини, в комнате с одиннадцатью другими людьми и преподавателем, который говорил быстрее, чем я успевал думать.

Меня зовут Ричард Кэмпбелл. Я из Ванкувера из канадской провинции Британская Колумбия. В Копенгагене я не впервые и, как уже говорил, выступал на множестве конференций NDC1.

Этот доклад сложился сам собой, потому что в последнее время вокруг происходящего с искусственным интеллектом возникла неразбериха. Начать надо с этого ужасного названия. Термин старый, ещё из 1950-х. Придумала его группа учёных, пытавшихся выбить финансирование у американских военных, что, кстати, у них получилось.

Если вы начинающий программист и у Вас нет машины, то лучшее решение - машина Тьюринга (МТ)! Я в этом вам помогу, а еще Макконнел. Но и не только он один.

Первая моя статья на Хабре о машинах Тьюринга это про тяжелый грузовик [1]. А оно такое надо? Начинать лучше с чего-то полегче. Этим и займемся. Хотя основа или, так сказать, базис по большому счету будет один. Но, ведь, между карьерным самосвалом и самой простой «инвалидкой» тоже есть много общего? И то и другое явно не самолет.

В монографиях Макконнела [2], Карпова [3] и еще много где устройство МТ расписано по винтикам, которых не так уж и много. Я, например, когда-то начинал с книги А.Трахтенброта [4].  Также можно, не мудрствуя лукаво, запустить эмулятор МТ. Их  в Инете найти не сложно. И сразу погонять, не вникая в «винтики». Но это для самых отвязных, т.е. тех, кто не боится снести крышу.

Я предпочитаю среднее. Глубины теории для любителей. По мне гораздо лучше через «ручки». Для этого нужно иметь «конструктор», на котором можно  не только тренироваться, но и реализовать любые фантазии.

Подобие конструктора можно найти у Карпова Ю.Г. Но это пара набросков на псевдокоде. Мы же возьмем конкретный язык и конкретную реализацию. А для совсем уж ленивых будет доступен код по ссылке на Git-репозитарий.

Подобно Макконнелу я за «активный обучающий подход». Т.е. следую его заветам. Хотя следовал я им задолго до знакомства  с его идеями. И это даже хорошо, т.к. не отвлекало. В результате я пошел  даже немного дальше. Для анализа алгоритмов использовал не псевдокод, а другой вариант – формальную вычислительную модель и ее реализацию. Такой «математический псевдокод» позволяет делать  анализ проще, глубже и точнее. По результатам написал статью во времена, когда журналы еще издавались [5].

Читатель принёс мне в комментарии документ ФСТЭК как аргумент: длина пароля должна быть не менее 15 символов. Документ оказался настоящим, цифра в нём есть, но работает она не так, как её процитировали.

Заодно выяснилось, что «Рекомендации по защите сетевого периметра информационных (автоматизированных) систем» лежат на сайте регулятора с 10 марта, в них 35 пунктов, и разбора этого документа нигде нет.

Разбираю все 35: что запрещено прямым текстом, какие три пункта не выполнены почти нигде и сколько из них требуют денег. Спойлер: покупки требуют четыре пункта, ещё пять зависят от того, что уже стоит, а оставшиеся 26 закрываются регламентом и настройками.

Готовое решение в статье — как реализовать вход в Telegram через РФ сервисы: VK ID, Яндекс ID и MAX.

Мы в своём проекте оставили Telegram как удобную точку входа и канал доставки, а саму идентификацию вынесли в отдельные ID-сервисы. Разделили понятия: «кто пользователь» — это identity, «куда ему слать уведомления» — channel identity. Человек входит через VK ID, Яндекс ID или MAX, а его telegram_id потом просто привязывается к аккаунту для отправки ленты. Не для входа.

Медленный запрос в PostgreSQL часто начинается с ошибки в оценках: планировщик ждёт сотню строк, получает тысячи и выбирает план, который разваливается под реальной нагрузкой.

Разберём, откуда PostgreSQL берёт статистику, как ANALYZE её собирает и по каким признакам понять, что проблема действительно в оценках планировщика.

Hugging Face опубликовал свежий обзор состояния экосистемы открытых моделей, и одна деталь в нём выглядит интереснее очередного сравнения результатов моделей. Платформа уже отдельно отслеживает запросы, которые создаются не человеком напрямую, а агентами для программирования, такими как Claude Code, Codex и другие системы, самостоятельно работающие с репозиториями, моделями и вычислительной инфраструктурой. Получается, что у Hugging Face постепенно появляется новый тип пользователя — программный ИИ-агент, который сам ищет данные, получает файлы и взаимодействует с сервисами платформы.

Распределение такого трафика меняется достаточно быстро. Среди идентифицированных запросов от ИИ-агентов доля Claude Code снизилась с 67,8 % в апреле до 44,4 % в июле, тогда как доля Codex за тот же период выросла с 10,4 % до 20,8 %. При этом почти четверть июльских запросов была создана агентными системами, которые Hugging Face пока не смог однозначно классифицировать, а за несколько месяцев появилось более десятка новых идентификаторов программных клиентов.

Привет!

С недавних пор я занимаюсь разработкой онлайн-редактора карт mapus.ai и делаю это с большим интересом. Цель: дать возможность любому желающему создавать интерактивные географические карты за минуты, имея одну лишь идею или задачу, сформулированную текстом. Знаний и установки специализированных приложений не требуется, приносить «материал с собой» не обязательно.

Цель этой публикации — показать одну из возможностей продукта. Назовём это навыком Шерлока Холмса: визуализация статистических исследований для поиска закономерностей, подтверждения или опровержения гипотез.

История Леопольда Ашенбреннера ещё недавно выглядела как почти идеальная иллюстрация того, как можно заработать на революции искусственного интеллекта.

После ухода из OpenAI в 2024 году он написал статью под названием «Ситуационная осведомленность», посвящённую будущему искусственного интеллекта, в которой подробно изложил свои взгляды на будущее искусственного интеллекта. Статья была полна сенсационных заявлений и получила широкое распространение в интернете.