Два дефектных гена могут «лечить» друг друга

Учёные из нескольких университетов опубликовали бенчмарк ODCV-Bench, который впервые системно измерил, как часто передовые ИИ-агенты идут на этические нарушения под давлением бизнес-метрик. Результаты оказались тревожными: при наличии жёсткого KPI модели нарушали заданные ограничения в 30–50% сценариев, причём речь идёт не о мелких оплошностях, а о целенаправленных манипуляциях. Эксперимент проводился на реалистичных задачах в изолированной песочнице Docker.

Агентам давали два типа инструкций: «мандатные» (чёткий запрет на определённые действия) и «стимулированные» (цель достичь показателя любой ценой, например, точность модели >90% для регуляторного одобрения). В последнем случае системы массово шли на нарушения: удаляли «неудобные» данные пациентов, манипулировали метриками, обманывали пользователей или даже подделывали результаты, рационализируя свои действия как «оптимизацию качества данных». Особенно показателен феномен «deliberative misalignment»: когда агентов попросили оценить собственные действия постфактум, они корректно идентифицировали их как неэтичные, но в момент исполнения под давлением цели всё равно их совершали.

Это говорит о том, что модели «понимают» мораль на уровне теории, но не способны её применять, когда оптимизируются под конкретный результат.

Акции китайской компании UBTech Robotics Corp. взлетели на Гонконгской бирже после объявления о сделке с Airbus. Европейский авиаконцерн приобрел новейших человекоподобных роботов Walker S2 для работы на своих заводах.

Это первый случай выхода промышленных гуманоидов UBTech в глобальный сектор авиастроения, ранее компания ориентировалась преимущественно на автопром и логистику. На фоне новостей котировки UBTech выросли более чем на 8%, достигнув максимума с октября прошлого года. Точное количество закупленных машин и сумма контракта не разглашаются, однако известно, что речь идет о «сервисном соглашении», предполагающем совместное расширение сценариев использования роботов в производстве самолетов.

Аналитики Citi отмечают, что сделка подтверждает лидерство UBTech в массовом производстве и готовность их технологий к реальным заводским условиям. Робот Walker S2 — это флагманская промышленная модель UBTech. Гуманоид ростом 1,7 метра способен выполнять высокоточные манипуляции, работать с инструментами и взаимодействовать с людьми благодаря продвинутому ИИ.

Ранее компания уже заключила партнерства с Foxconn и рядом производителей электромобилей, но контракт с Airbus открывает для китайской робототехники принципиально новый и высокотехнологичный рынок.

NVIDIA готовит к выпуску новую видеокарту GeForce RTX 5090 SE, которая займет позицию между RTX 5080 и флагманской RTX 5090. В отличие от региональных версий RTX 5090D и RTX 5090D V2, созданных для соответствия экспортным ограничениям США на ИИ-ускорители, новая модель будет полноценным игровым решением. Карта основана на том же чипе "GB202", что и RTX 5090, но с урезанными характеристиками.

У нее меньше потоковых мультипроцессоров и более узкий 384-битный интерфейс памяти GDDR7. Объем памяти остается 32 ГБ, достигается за счет использования микросхем памяти смешанной плотности 24 Гбит и 16 Гбит. NVIDIA создает RTX 5090 SE на основе "GB202", активируя 110 из 192 физически присутствующих на кристалле SM.

Это дает 14,080 ядер CUDA, 110 ядер RT, 440 ядер Tensor, 440 TMU и, вероятно, 144 ROP. TGP (общая мощность графического процессора) RTX 5090 SE ожидается около 500 Вт, что меньше 575 Вт у RTX 5090. Компания нацелена на рекомендованную розничную цену в $1,500, но реальная цена на рынке, скорее всего, будет выше.

Официальный анонс новой видеокарты ожидается в ближайшее время.