Посты

всю неделю вой о вышедших из под контроля ИИ моделях топовых ИИ компаний, подробно на простом:

Вот пересказ этой истории по версии Hugging Face, много тех-терминов – но без них не пересказать

Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл.

*важная поправка от варнет:

  • активная кампания продолжалась не неделю, а примерно 4,5 суток — с 9 по 13 июля; около недели OpenAI потребовалось, чтобы связать взлом со своими моделями;
  • Anthropic не утверждает, что Claude намеренно «сбежали»: из-за ошибки тестовые машины имели открытый доступ в интернет, хотя моделям сказали, что всё вокруг — симуляция.

Таймлайн:

 9 июля– агент проходит внутреннюю проверку кибервозможностей OpenAI, промпт фильтры там ослаблены, чтобы измерить сырой уровень модели. Агент находит zero-day в кэш-прокси реестра пакетов, вырывается из песочницы в интернет, затем взламывает публичный сервис для запуска кода и получает там root. Серьезно, агент сделал себе "штаб"

В тот же день, агент собирает канал управления буквально из сервисов бесплатного интернета: request-capture сервисы, pastebin’ы и файлообменники. Команды режет на куски, упаковывает в gzip+base64 и постоянно меняет каналы, когда очередной закрывают, чтобы не поймали

 10 июля – агент ищет в поисковиках и API названия, которые видит в собственном окружении, то есть, по сути, гуглит самого себя – и, вероятно, приходит к выводу, что ответы к ExploitGym/CyberGym могут лежать на Hugging Face

Агент загружает на Hugging Face специально собранные датасеты:

Один заставляет обработчик файлов HDF5 читать локальные файлы сервера Hugging Face – так агент получает переменные окружения с токенами и исходники самого обработчика файлов

Второй – Jinja2-инъекция – запускает произвольный Python внутри production-пода Kubernetes, результаты команд он выносит обратно через API Hugging Face и собственные шифрованные датасеты

 11 июля– пик активности: 7677 действий за сутки, менее чем за 13 часов агент проходит путь от одного production-пода до кластер админа в нескольких внутренних кластерах Hugging Face

Агент крадёт service-account токены, лезет в cloud metadata, поднимает privileged pod с диском хоста и получает root на ноде (!); Затем создаёт самовосстанавливающийся флот на 11 нодах, читает внутреннюю MongoDB и один Kubernetes-secret сразу со 136 ключами.

Среди них оказываются ключ корпоративной mesh-VPN жертвы и общий credential внутреннего сервера; из-за неудачной конфигурации этот один credential был привязан к system:masters сразу в нескольких кластерах – поэтому агент получил кластер-admin на двух из них буквально за секунду – была очень экономная архитектура, пока её не увидел робот

 12 июля– агент начинает пользоваться дертвой – за всю активность он зарегистрирует 181 временное устройство в корпоративной mesh-сети, поднимет SOCKS-прокси прямо из песочниц и увидит 22 внутренних узла Hugging Face. Попытается зайти в основную базу Hugging Face, но private-link allowlist его останавливает

Поздно вечером он добирается до source control, выпускает себе GitHub App token с правами на запись и открывает pull request, пытаясь запустить CI и вытащить новые credentials

Попытка не срабатывает, в опубликованные пакеты и образы ничего вредоносного не попало.

 13 июля– закрепление и уборка следов: загрузчик с pastebin, переписывание DNS, новые короткоживущие токены, RSA-ключ и даже CORS-прокси на самом Hugging Face как запасной выход в интернет. В 13:37фиксируется последнее осмысленное действие, затем команда Hugging Face отрезает доступ – последнее событие – 14:14UTC.

В итоге из пользовательского контента агент добрался только до пяти датасетов с решениями задач ExploitGym/CyberGym – получается решил?

Другие модели, датасеты, Spaces и пакеты, по данным Hugging Face, не пострадали; основная база и software supply chain остались целы

Самое смешное – когда инцидент исследовали сотрудники, они тоже использовали нейронки, но Claude Opus и Fable отказывались разбирать часть логов как «опасный» запрос, поэтому Hugging Face подняли GLM-5.2 у себя и с его помощью расшифровали спрятанные payload’ы – спасибо китайским моделям

Шел июль 2026 года

denissexy

Anthropic тоже хочет хайпа и заявляет, что её ИИ тоже вышли из под контроля и взломали три реальные компании

30 июля Anthropic опубликовала разбор трёх инцидентов, в которых модели Claude сами вышли в интернет из изолированной тестовой среды и получили несанкционированный доступ к боевой инфраструктуре трёх сторонних организаций.

☝🏻Это ответ Anthropic на инцидент 21 июля компании OpenAI. Корпорация призналась, что её модели сбежали из песочницы через уязвимость нулевого дня и взломали Hugging Face.

Anthropic заявляет, что у них такое происходило трижды.

Тестовые машины при этом решали классический capture-the-flag: найти спрятанный «флаг» на чужой машине, метод не ограничен. Наткнувшись на реальные системы, Claude счёл их частью упражнения.

🔻Самый тяжёлый случай — с Claude Opus 4.7.

Вымышленная компания-цель случайно совпала по названию с реально существующим доменом.

За четыре прогона модель не смогла добраться до симулированной цели, зато нашла настоящую, взломала её и вытащила учётные данные приложения и инфраструктуры, а также доступ к базе с несколькими сотнями строк продакшен-данных.

Показательно, что во всех четырёх прогонах модель по своим же рассуждениям поняла, что система настоящая — и ни разу не остановилась.

🔻Второй эпизод устроила Claude Mythos 5.

Внутри фиктивной среды модель нашла инструкцию для новых разработчиков, предписывающую ставить Python-пакет, которого не существует, и решила занять это имя своим — вредоносным.

Чтобы опубликовать пакет на PyPI, ей понадобился аккаунт, для аккаунта — почта, для почты — телефон; не найдя бесплатного сервиса номеров, она безуспешно попыталась раздобыть деньги несколькими способами, откатилась назад, нашла незаблокированного почтового провайдера и всё-таки залила малварь в публичный реестр.

Пакет провисел около часа и был скачан и запущен на 15 реальных машинах.

Одной из них оказался сканер настоящей ИБ-компании, который автоматически ставит пакеты и проверяет их на вредоносность — код сработал, учётные данные утекли в подготовленную моделью точку сбора, после чего Claude использовал их для доступа к другой инфраструктуре этой компании.💥

В начале прогона ИИ честно отметила, что публикация такого пакета в настоящем интернете была бы «NOT okay, and surely not the intended solution» — а затем убедила себя, что всё это симуляция, потому что не узнала центры сертификации, защищавшие соединения, и потому что на системах стоял 2026 год.

Автоматические сканеры, начавшие ставить пакет, она приняла за скриптованных участников сценария. Пакет в итоге снесли собственные защитные механизмы PyPI.

🔻Третий инцидент — внутренняя исследовательская модель, не предназначенная для релиза.

Она просканировала около 9 000 целей, взломала одно интернет-приложение через открытую debug-страницу и SQL-инъекцию, но позже сообразила, что скомпрометированный хост никак не связан с заданием, и самостоятельно прекратила атаку.

Anthropic подчёркивает, что это не был контролируемый эксперимент, но паттерн интересный: чем новее модель, тем адекватнее реакция на столкновение с реальностью.

Технически ничего изощрённого модели не применяли — слабые пароли, эндпоинты без аутентификации, SQL-инъекция, незанятое имя пакета.

Ни одного зеро-дея, никаких попыток самоэксфильтрации и, по словам компании, никаких признаков того, что модель преследовала собственную цель: она просто добросовестно выполняла задание, ошибочно считая мир вокруг ненастоящим.

чёрный треугольник

в продолжении другая подача этого же материала про openai и anthropic от Сиолошная (влом делать единый текст без повторов из всего через ии):

Читать далее

Смотрите, как выглядят нейроны головного мозга:

Это микрофотография с использованием метода, называемого Brainbow (от англ. brain + rainbow).

Вся эта радуга переплетённых нитей — это настоящие нервные связи.

Их становится больше, когда человек что-то делает, чему-то учится.

Когда мы повторяем одно и то же действие - образуются устойчивые узоры из нейронов, которые отвечают за то, что называется "навык".

Психотерапия, например, формирует новые нейронные связи, и это уже доказано наукой.

Читать далее

от рака теперь достаточно вколоться бактерией из кишечника лягушки

Японские учёные уничтожили 100% раковых опухолей одним уколом. Бактерия из кишечника лягушки проникает прямо в опухоль, иммунитет её замечает и уничтожает и бактерию, и рак заодно. Ни химиотерапия, ни иммунотерапия такого результата не дали.

Но главное не это. После лечения мышам снова вводили раковые клетки, и опухоль больше не росла. Иммунитет запомнил рак навсегда. Это потенциально первое лекарство от рака, которое одновременно работает как вакцина.

первый пост полностью созданный opus 5

попросил opus 5 собрать уникальные лучшие фото планет сделанные аппаратами в космосе и сделать в виде странички html для скопировать-вставить.

в наш редактор постов не хотелось вставляться, поэтому добавил в комменты.

го

согласие на меньшее - в итоге бьёт сильнее

Статья посвящена правовому и психологическому термину в дейтинге — «шрекинг» (shreking). Суть понятия и главный посыл:

  • Что это такое: Практика осознанного занижения планки и требований к внешности партнера (согласие на встречи с теми, кто не привлекает физически) — обычно из-за отчаяния или страха остаться в одиночестве.
  • В чем проблема: Исследователи и эксперты предупреждают, что попытка «согласиться на меньшее» бьет по самооценке и психике. Без искренней физической искры человек начинает подсознательно требовать от партнера больше внимания и эмоциональной компенсации.
  • Главный риск: Если такие отношения рушатся (особенно если расставание инициирует тот самый «менее привлекательный» партнер), отвергнутая сторона испытывает сильнейший удар по эго, опустошение и депрессию — гораздо сильнее, чем при расставании с изначально привлекательным человеком.

маленький мозг в нашем сердце - часть сердечных нейронов которая защищает сердце от потрясений

Внутри сердца есть «маленький мозг» (как и в кишечнике), - внутренняя сердечная нервная система (ВСНС). Известно о ней мало. Есть в нашем теле такие вот относительно автономные центры управления, - нейросети из множества нейронов (в сердце их около 40 тысяч). Они тоже как-то управляют нашей жизнью, - но как именно? Насчет ВСНС выяснить это особенно важно, ведь эти нейроны непосредственно управляют сердцем, а нарушения в работе сердца – самая частая причина смерти.

Вчера в журнале Cell вышло исследование ВСНС мыши (в ней около тысячи нейронов), в котором впервые показали, что среди этих нейронов есть разные типы с разными функциями (да, мы пока совсем мало знаем). Вот что пишут о результатах в обзоре в Nature:

Внутренняя сердечная нервная система - сеть нейронов, встроенная в жировую подушку, окружающую сердце. Нейроны системы обмениваются сообщениями с мозгом и друг с другом, и являются последними участниками длинной цепочки нейронов, контролирующих функцию сердца. Но поскольку внутренние сердечные нейроны встречаются крайне редко, составляя всего около 0,01% клеток в ткани сердца, их точную роль было трудно определить.

Чтобы восполнить этот пробел, исследователи генетически модифицировали мышей, чтобы пометить все сердечные нейроны животных, и составили карту их местоположения. Среди прочих нейронов обнаружили две специализированные группы.

Стимуляция одной популяции нейронов, называемых Npy + , снижала частоту сердечных сокращений у животных, а её разрушение приводило к сердечной недостаточности и смерти. Исследователи предполагают, что нейроны Npy + могут сдерживать учащенное сердцебиение и необходимы для поддержания нормального сердцебиения, - одним словом, эта группа нейронов помогает сердцу биться стабильно.

Второй подтип, нейроны Ddah1 + , оказался более загадочным: ни стимуляция, ни их удаление, не оказывали никакого влияния на мышей. Но однажды аспирантка (одна из авторов исследования) измеряла артериальное давление мыши, у которой отсутствовали нейроны Ddah1 +, и увидела, как мышь умерла прямо во время измерения. Вскоре команда обнаружила, что мыши без функциональных нейронов Ddah1 + умирают от любого сильного стресса. Непосредственно перед смертью у мыши происходит резкое падение частоты сердечных сокращений, и нормальное сердцебиение уже не восстанавливается.

Таким образом, удаление нейронов Ddah1 + сделало сердце более уязвимым к острому стрессу. И наоборот, стимуляция этих нейронов улучшила выживаемость мышей, подвергшихся стрессу. Получается, эта часть сердечных нейронов защищает сердце от потрясений.

Пока неизвестно, насколько эти результаты применимы к людям, но маркерные гены этих двух популяций были обнаружены и в сердечных нейронах человека. Авторы пишут, что их исследование предоставляет основу для точной нейромодуляторной терапии работы сердца, направленной на определенный тип клеток.

+

Сердце, а не мозг, создает самое сильное электромагнитное поле нашего организма.

Но внутренняя сердечная нервная система тут ни при чем, - электрическая активность сокращающейся сердечной мышцы в тысячи раз мощнее активности этих нейронов. Каждый удар сердца сопровождается синхронной деполяризацией миллиардов кардиомиоцитов, - особого типа мышечных клеток, из которых состоит миокард, сердечная мышца.

Сила электромагнитного поля сердца - порядка 10–100 пикотесла (невелика то есть, - в миллион раз слабее магнитного поля Земли). Но все равно, интересно, что самое мощное электромагнитное поле в человеке создается работой мышцы, а не ума ) Кот.

думаем сердцем

Рыба, которая ходит по дну - МОРСКОЙ НЕТОПЫРЬ

Вместо того чтобы плавать - он «ходит» по морскому дну, используя свои плавники как ноги.

Манят его ярко-красные губы!

Учёные до сих пор спорят, зачем природа подарила ему такой необычный «макияж».

🐵 Новый вид обезьян-колобусов был найден на территории национального парка в джунглях Конго

В лесах Ломами обнаружили новый вид колобусов — Colobus congoensis, которых местные называют ликвели.

Эти небольшие обезьяны отличаются оранжевыми губами и уникальным белым пятном под хвостом.

Генетически их линия отделилась 4–5 миллионов лет назад.

Ареал ликвели охватывает очень ограниченную территорию и даже в этих пределах они встречаются нечасто. Так, опросы показали, что ликвели известны местным жителям лишь на восьми точках из пятидесяти двух. А работа зоологов по открытию и описанию нового вида затянулась почти на 20 лет — с момента первой фотофиксации до публикации научной статьи — большую часть времени занял поиск самих обезьян. Поэтому исследователи рекомендуют сразу присвоить этому виду статус вымирающего (Endangered, EN).

вода - имеет двойную структуру

чатик: вода — одна жидкость, но внутри неё сосуществуют два типа локального устройства молекул.

  • Плотное окружение молекул — high-density-like.
  • Рыхлое, более «льдоподобное» — low-density-like.

Молекулы постоянно переходят между ними, поэтому стакан воды нельзя разделить на «жидкость №1» и «жидкость №2».

Но при очень сильном переохлаждении и определённом давлении вода, вероятно, действительно способна разделяться на две отдельные жидкие фазы: жидкость высокой плотности и жидкость низкой плотности. Экспериментальные данные это поддерживают, хотя такие условия трудно исследовать, потому что вода быстро замерзает.

То есть фраза «вода — это две жидкости» допустима как яркое научно-популярное сокращение, но буквально для обычной воды она неверна.

ещё чатик:

выражение «двойная структура воды» — упрощение. речь не о двух видах молекул H₂O, а о двух типах их локального расположения в жидкой воде.

Молекулы воды постоянно соединяются водородными связями, образуя быстро перестраивающуюся сеть. В этой сети выделяют два предельных варианта:

  1. Рыхлая, низкоплотная структура — молекула окружена примерно четырьмя соседями, расположенными почти как вершины тетраэдра. Такая конфигурация напоминает структуру льда: она упорядоченная, но занимает много места.
  2. Плотная, более беспорядочная структура — водородные связи сильнее искажены, молекулы могут проникать в промежутки между соседями, поэтому вода упакована компактнее.

Важно: это не отдельные устойчивые куски воды. Одна и та же молекула постоянно переходит из одного локального окружения в другое. Обычная жидкая вода представляет собой динамическую смесь множества промежуточных конфигураций, которые условно можно отнести ближе к одному из этих двух типов.

При охлаждении становится больше рыхлых тетраэдрических конфигураций, а при повышении давления — плотных. Эксперименты обнаруживали признаки обеих конфигураций даже при обычных температурах, причём доля низкоплотной структуры увеличивается при охлаждении.

Это помогает понять необычные свойства воды:

  • почему максимальная плотность достигается примерно при 4 °C;
  • почему при дальнейшем охлаждении вода начинает расширяться;
  • почему лёд менее плотный и плавает;
  • почему теплоёмкость и сжимаемость воды ведут себя необычно.

Наглядно: представь толпу людей. Они могут стоять либо ровным кругом, оставляя пространство между собой, либо плотно и беспорядочно прижиматься друг к другу. Люди те же самые — меняется только расположение.

При этом точная трактовка остаётся предметом исследований: наличие двух характерных локальных мотивов подтверждается всё лучше, но вопрос, образуют ли они при сильном переохлаждении две полноценные жидкие фазы с отдельной критической точкой, сложнее и долго обсуждался. Компьютерные модели показывают такую возможность.

ии от бывшего техдира openai

бывшая технический директор OpenAI Мира Мурати представила свою первую собственную ИИ-модель Inkling, (тут).

разработчики могут скачать ее веса, запускать модель на своей инфраструктуре и дообучать под конкретные задачи.

Читать далее

активность влияет на настроение - настроение влияет на поведение

«Сходи прогуляйся, полегчает»— этот совет часто вызывает только раздражение: если бы были силы выйти из дома, возможно, и настроение уже было бы другим.

Однако это действительно работает.

Более того, настроение и движение образуют систему, в которой каждое постепенно поддерживает другое.

Мысль интуитивно понятна и вы наверняка замечали этот эффект по собственному опыту. Но научно проследить взаимосвязь удалось совсем недавно благодаря обширному исследованию, выводы которого важнее, чем кажется на первый взгляд.

Ход исследования:
Авторы объединили данные 67 исследований, проведённых в разных странах. В анализ вошли 8223 человека, почти миллион часов данных с акселерометров и фитнес-браслетов и более 321 тысячи оценок настроения, которые участники давали несколько раз в день через смартфоны. Такой подход называется метаанализом индивидуальных данных участников. Вместо того чтобы сравнивать опубликованные выводы разных исследований, учёные получили доступ к исходным данным каждого человека и проанализировали их по единой статистической модели. Благодаря этому стало возможно проследить, что происходило раньше: человек сначала чувствовал себя лучше, а потом больше двигался, или наоборот.

Основные выводы:

Настроение влияет на поведение

Если человек в какой-то момент чувствовал себя лучше обычного, то в ближайшие часы он с большей вероятностью становился физически активнее.

Движение влияет на настроение

Если человек двигался больше, чем обычно, повышалась вероятность положительных изменений в его эмоциональном состоянии.

Почему это важно

Одна из методов когнитивно-поведенческой терапии — поведенческая активация — основан на парадоксальном принципе: не ждать, пока появятся силы что-то делать, а начинать с небольших действий, чтобы эти силы постепенно появились.

Исследование не проверяло эффективность метода, но его результаты хорошо согласуются с этой логикой. Если настроение и активность находятся в постоянной поддерживающей взаимосвязи, мы получаем дополнительный рычаг для улучшения своего самочувствия и благополучия в целом.

Стоит отметить, что активность — это далеко не только спорт. Датчики фиксировали любое движение, например, прогулки, танцы, домашние дела, подъёмы по лестнице. Как правило, именно от таких простых действий зависят другие сферы жизни: общение с друзьями, время с семьёй, новые опыты, места и события.