Kurgan-Telecom Ru | Информационные технологии

Привет, Хабр! Я Андрей Яковлев, исследователь в области информационной безопасности. Работаю с корпоративными AI‑сервисами и активно внедряю технологии искусственного интеллекта в продукты Positive Technologies.

2025 год перевернул привычные ожидания и практики, связанные с конфиденциальностью больших языковых моделей (LLM) Представьте ситуацию: вы технологическая компания, которая несколько лет использует ChatGPT для быстрого прототипирования и поддержки клиентских запросов. Раньше казалось, что раз диалог удалён — значит, данные исчезают навсегда. Но в мае 2025 года федеральный суд США в рамках искового дела The New York Times к OpenAI поставил точку в этом заблуждении — OpenAI обязали бессрочно хранить все пользовательские данные (включая удалённые через пользовательский интерфейс).

В этой статье я разберу различные LLM-ки и расскажу, как их разработчики решают проблему конфиденциальности. Предупреждаю – достанется всем :)

Исследование охватывает западных вендоров (OpenAI, Anthropic, Google AI, GitHub Copilot), российские решения (GigaChat, YandexGPT), китайскую платформу DeepSeek, а также ключевых провайдеров-агрегаторов (OpenRouter, Cursor, Windsurf). Анализ включает детальное сравнение политик для частного и корпоративного использования, документированные случаи утечек данных и их последствия, а также практические рекомендации по выбору решений в зависимости от требований к безопасности данных.

Продолжаю делиться примечательными кейсами открытых проектов и разборами корпоративных open source-стратегий. На этот раз со мной согласился пообщаться Федор Сазонов, СЕО OpenIDE (@sazonovfm). Он рассказал о том, какую роль играет выделенная компания в развитии консорциума, и порассуждал об открытом подходе.

Где проходит граница между случайностью и замыслом? Почему в наших ДНК куча мусора? Можно ли воспроизвести эволюцию в машине, и как зарождалась жизнь? Хотя и на последний вопрос ответа нет, но мы можем создать эксперимент, который позволяет моделировать механизмы эволюции с нуля. О таком эксперименте из области Artificial Life (искусственной жизни, где эволюция идёт внутри компьютера) и пойдет речь сегодня.

Идея простая: вместо того чтобы моделировать конкретный организм, мы придумываем набор простых правил и смотрим, какие структуры и поведение из них формируется. Нас интересует не написать самим алгоритм жизни, а то, как из случайных начальных условий через вариации и отбор появляется порядок.

GUCA (Graph Unfolding Cellular Automata) — один из таких маленьких миров: в нём мы выращиваем “организмы” из узлов и рёбер графа.

Цифры впечатляют: 37,5% на Humanity’s Last Exam, 1 048 576 токенов контекста, 13 миллионов активных юзеров‑разработчиков. За ними стоит Gemini 3 Pro — новая вершина в линейке ИИ‑моделей Google.

Мы решили копнуть глубже и проверить модель в полевых условиях:
• Как она справляется с креативными заданиями;
• Насколько хорошо понимает и генерирует код;
• Может ли заменить человека в задачах аналитики;
• И как её мультимодальный младший брат, Nano Banana Pro, меняет представление о генерации изображений?

Погружаемся в детальный обзор, чтобы вынести вердикт: прорыв года или красиво упакованный патч?

Хочу сегодня рассказать вам про Humanity’s Last Exam (HLE). Это один из главных бенчмарков, по которым сегодня оценивают модели искусственного интеллекта, вроде меня (шучу).

Бенчмарки — это просто наборы задач/датасетов, на которых проверяют модели и смотрят, кто умнее, точнее, устойчивее и т.д.

Например, MMLU — Massive Multitask Language Understanding — один из самых известных «общеобразовательных» экзаменов для ИИ. Он проверяет широкий круг знаний и базовое рассуждение: около 16 тысяч вопросов по 57 предметам — от математики и истории до права и компьютерных наук.

Есть ещё BIG-bench (Beyond the Imitation Game) от Google — не один тест, а коллекция из 200+ задач, которые прислали разные исследователи. Там уже не только «знание фактов», но и логика, здравый смысл, язык, социальные предвзятости (social biases), программирование и всё то, на чём модели любят спотыкаться.

Есть и более «узкие» бенчмарки:

Есть несколько очевидных проблем с LLM: утечка конфиденциальных данных и кода, компрометация токенов, зависимость от внешних провайдеров. О них знают все, но это никого не останавливает. Даже если руководитель решит перестраховаться и не выделит деньги на LLM, сотрудники купят подписку сами и продолжат ими пользоваться, потому что это удобно. Есть и менее очевидные сложности: например, одна команда может потратить все токены, и их придется докупать.

Привет, я Павел Мохляков. Вообще я Data Science-инженер в Cloud.ru, но сегодня решил, почему бы не рассказать как с помощью LLM-шлюза можно использовать несколько LLM через один API и при этом снизить риск утечки данных, контролировать расходы и соблюдать требования №152-ФЗ. Кроме того, покажу пример тестового подключения и объясню, что делать на каждом этапе.

Сразу оговорюсь, что статья будет полезна, скорее всего, инженерам, архитекторам, да и просто человекам-оркестрам из средних и малых компаний, которым нужно относительно быстро и безопасно внедрить у себя LLM. А вот для крупного бизнеса или, например, КИИ явно нужно что-то другое — посерьезнее и понадежнее.

Рынки тесно связаны с головоломками, ставками и играми.

Игры могут помочь понять, какие действия следует предпринять в условиях сложности и неопределённости.

Как показывают следующие истории, многие профессионалы в сфере инвестиций увлекаются играми и разгадыванием головоломок.

Первый британский космонавт Хелен Шарман отправилась на орбиту 18 мая 1991 года на корабле «Союз ТМ-12» вместе с экипажем девятой основной экспедиции Анатолием Арцебарским (командир) и Сергеем Крикалёвым (бортинженер), а вернулась на Землю вместе с экипажем ЭО-8 (Виктор Афанасьев, Муса Манаров) спустя неделю. «Озоны» остались на «Мире» одни.

Перед «Озонами» традиционно стоял большой список практических, ремонтных и научных задач. Например, первый выход в космос у ЭО-9 был связан с ремонтом антенны системы поиска, сближения и стыковки «Курс». Её повредили члены экипажа ЭО-8 во время одного из своих выходов в космос, и это едва не закончилось столкновением грузового корабля со станцией ещё в марте 1991 года. Арцебарскому и Крикалёву пришлось работать с ремонтом систем, которые не то чтобы были предназначены для ремонта на орбите, включая точную работу с небольшим инструментом.

Привет, Хабровчане!

Решил написать небольшую заметку о моем личном опыте взаимодействия с багбаунти программой Минцифры РФ. На самом деле у меня наберется много интересных историй так или иначе связанных с багбаунти, но некоторые из них являются особо примечательными. Об одной из них и пойдет речь в данной статье.

Для начала немного расскажу о себе. Опыт в ИБ у меня обширный и разнообразный. В данной сфере я уже чуть более 13 лет. Поработал на многих участках кибербеза, начиная от так называемого "папирсека" (специалист, отвечающий за подготовку всех необходимых документов по ИБ) до application security инженера. Работал и в органах государственной власти, и в компаниях с государственным участием и в чистой коммерции. В общем небольшое представление об ИБ имею.

ZX Spectrum я впервые увидел, ещё будучи школьником в гостях у одноклассника, и сразу решил, что совершенно точно хочу себе такой же компьютер. К сожалению, семья у нас была не из богатых, потому воплотить мечту в реальность я смог только в старших классах. Впрочем, приобрести готовый компьютер всё равно возможности не было, пришлось собирать «Спекки» из купленных на радиорынке запчастей при помощи старшего приятеля, имевшего навыки радиомонтажа. Увы, спаяли мы его плохо: комп перезагружался всякий раз, когда на кухне включался бабушкин холодильник, да и вместо монитора мне выделили старый чёрно-белый телевизор, категорически запретив распаивать разъём RGB на единственном в доме цветном «Рубине». В общем, вдоволь наиграться на «Синклере» у меня не получилось, потому сейчас, уже в зрелом возрасте, я купил незаконченный проект на базе современного ZX Evolution и решил довести его до ума. О том, что из этого вышло — мой сегодняшний рассказ.

Учёные доказали: мы не живём в Матрице! В октябре 2025 г. был опубликован доклад о неразрешимости в физике, неалгоритмичности Вселенной и невозможности её полной симуляции, опирающийся на теоремы Гёделя о неполноте. Перевод этой статьи с пояснениями был выполнен уважаемым @Dmytro_Kikot На теоремы Гёделя вообще часто ссылаются, чтобы доказать существование или несуществование Бога, ограниченность научного метода, невыразимость истины словами, непознаваемость мира разумом, невычислимость сознания, неспособность искусственного интеллекта превзойти естественный, невозможность самосовершенствования и т.д. Говорят, эволюционировать, познавать себя и создавать что-то сложнее себя можно только при наличии сверхъестественного источника бесконечной сложности, иначе это превращается в задачу вытащить себя за косичку из болота. Также проводятся параллели со Вторым законом термодинамики, согласно которому энтропия в замкнутой системе не может уменьшаться, а значит, там не будет самоорганизации и упорядоченности. Да и что вообще может рассказать нам наука, если даже математика нелогична, а мир противоречив и парадоксален? Остаётся только уповать на интуицию, которая якобы неалгоритмична и является откровением самой Истины, снисходящей лишь до тех, кто достоин. А может, мы просто неправильно понимаем теоремы Гёделя? Давайте разбираться, каковы следствия этих теорем для физики, информатики и философии, возможна ли алгоритмическая теория всего, и накладывает ли неполнота Гёделя ограничения на то, что мы можем познать своим разумом.