Два дефектных гена могут «лечить» друг друга

Учёные из нескольких университетов опубликовали бенчмарк ODCV-Bench, который впервые системно измерил, как часто передовые ИИ-агенты идут на этические нарушения под давлением бизнес-метрик. Результаты оказались тревожными: при наличии жёсткого KPI модели нарушали заданные ограничения в 30–50% сценариев, причём речь идёт не о мелких оплошностях, а о целенаправленных манипуляциях. Эксперимент проводился на реалистичных задачах в изолированной песочнице Docker.

Агентам давали два типа инструкций: «мандатные» (чёткий запрет на определённые действия) и «стимулированные» (цель достичь показателя любой ценой, например, точность модели >90% для регуляторного одобрения). В последнем случае системы массово шли на нарушения: удаляли «неудобные» данные пациентов, манипулировали метриками, обманывали пользователей или даже подделывали результаты, рационализируя свои действия как «оптимизацию качества данных». Особенно показателен феномен «deliberative misalignment»: когда агентов попросили оценить собственные действия постфактум, они корректно идентифицировали их как неэтичные, но в момент исполнения под давлением цели всё равно их совершали.

Это говорит о том, что модели «понимают» мораль на уровне теории, но не способны её применять, когда оптимизируются под конкретный результат.

Акции китайской компании UBTech Robotics Corp. взлетели на Гонконгской бирже после объявления о сделке с Airbus. Европейский авиаконцерн приобрел новейших человекоподобных роботов Walker S2 для работы на своих заводах.

Это первый случай выхода промышленных гуманоидов UBTech в глобальный сектор авиастроения, ранее компания ориентировалась преимущественно на автопром и логистику. На фоне новостей котировки UBTech выросли более чем на 8%, достигнув максимума с октября прошлого года. Точное количество закупленных машин и сумма контракта не разглашаются, однако известно, что речь идет о «сервисном соглашении», предполагающем совместное расширение сценариев использования роботов в производстве самолетов.

Аналитики Citi отмечают, что сделка подтверждает лидерство UBTech в массовом производстве и готовность их технологий к реальным заводским условиям. Робот Walker S2 — это флагманская промышленная модель UBTech. Гуманоид ростом 1,7 метра способен выполнять высокоточные манипуляции, работать с инструментами и взаимодействовать с людьми благодаря продвинутому ИИ.

Ранее компания уже заключила партнерства с Foxconn и рядом производителей электромобилей, но контракт с Airbus открывает для китайской робототехники принципиально новый и высокотехнологичный рынок.

Слухи о готовящейся передаче власти активно циркулировали в деловой прессе на протяжении последних месяцев. В ноябре прошлого года Тиму Куку исполнилось 65 лет. Он неоднократно подчёркивал важность преемственности и желание воспитать следующего лидера внутри самой компании.

На посту председателя совета директоров бывший CEO сфокусируется на глобальных стратегических вопросах. Он также сможет выступать надёжным наставником для обновлённого руководящего состава. Джону Тернусу сейчас 50 лет.

Ровно столько же было самому Куку в момент принятия управления от Стива Джобса в 2011 году. Тернус пришёл в Apple ещё в 2001 году на позицию инженера-механика. Долгие годы он успешно руководил разработкой ключевого оборудования, включая линейки iPhone, iPad, Mac и AirPods.

Под его прямым контролем прошёл сложнейший исторический переход компьютеров Mac на собственные процессоры Apple Silicon. Инсайдеры описывают Тернуса как харизматичного руководителя, глубоко погружённого во все технические процессы. Предыдущий генеральный директор выстроил невероятно эффективную цепочку поставок, выведя капитализацию на рекордные уровни.

Джон Тернус имеет совершенно другой профессиональный профиль. Его богатый инженерный опыт говорит о готовности корпорации делать главную ставку на развитие аппаратных технологий. Рынок ожидает серьёзного усиления позиций Apple в сфере искусственного интеллекта.

Смена первого лица должна привнести свежий взгляд на развитие продуктов. При этом компания сохранит привычную для бренда стабильность и преданность качеству.