OpenAI обещает больше прозрачности в вопросах галлюцинаций моделей и вредного контента

Компания OpenAI запустила новый веб-ресурс под названием safety evaluations hub, который предназначен для публичного предоставления информации о таких аспектах, как уровень галлюцинаций моделей. Этот хаб также будет подчеркивать, производит ли модель вредный контент, насколько хорошо она выполняет инструкции и какие попытки взлома были предприняты.

Технологическая компания утверждает, что эта новая страница обеспечит дополнительную прозрачность для OpenAI, компании, которая столкнулась с многочисленными судебными исками, в которых утверждается, что она незаконно использовала защищенные авторским правом материалы для обучения своих моделей ИИ. Кроме того, стоит отметить, что The New York Times утверждает, что технологическая компания случайно удалила доказательства в деле о плагиате, которое газета подала против нее.

Центр оценки безопасности призван расширить систему карт OpenAI. Эти карты описывают только меры безопасности при запуске, тогда как хаб должен предоставлять постоянные обновления.

«По мере развития науки об оценке ИИ мы стремимся делиться нашими успехами в разработке более масштабируемых способов измерения возможностей и безопасности моделей», — говорится в заявлении OpenAI. «Предоставляя здесь часть результатов наших оценок безопасности, мы надеемся, что это не только облегчит понимание показателей безопасности систем OpenAI со временем, но и поддержит усилия сообщества по повышению прозрачности в этой области». OpenAI добавляет, что работает над более проактивной коммуникацией в этой области по всей компании.

Introducing the Safety Evaluations Hub—a resource to explore safety results for our models.

While system cards share safety metrics at launch, the Hub will be updated periodically as part of our efforts to communicate proactively about safety.https://t.co/c8NgmXlC2Y

— OpenAI (@OpenAI) May 14, 2025

Заинтересованные стороны могут ознакомиться с каждым из разделов хаба и увидеть информацию о соответствующих моделях, таких как GPT-4.1 через 4.5. OpenAI отмечает, что предоставленная в этом хабе информация является лишь «моментальным снимком», и что заинтересованные стороны должны обращаться к системе карт, оценкам и другим релизам для получения дополнительной информации.

Одним из крупных «но» всего центра оценки безопасности является то, что OpenAI проводит эти тесты и решает, какую информацию делать общедоступной. В результате нет никакой гарантии, что компания поделится всеми своими проблемами или опасениями с общественностью.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Скидки на подписку ProtonVPN: экономия до 66%

Внимание всем, кто ищет надежный и доступный VPN-сервис! В рамках эксклюзивной акции для читателей Engadget, подписка на ProtonVPN теперь доступна со значительными скидками. 12-месячная подписка обойдется всего в $48, что экономит вам around $72 и составляет всего $4 в месяц. А 24-месячный план теперь стоит всего $81, что экономит вам $158 и составляет всего $3.39 в месяц.

ProtonVPN заслуженно занимает первое место в нашем списке лучших VPN-сервисов. Этот сервис сочетает в себе мощь и простоту использования, что делает его отличным выбором как для новичков, так и для опытных пользователей. End-to-end шифрование ProtonVPN надежно защищает ваши данные, а open-source framework позволяет компании предлагать официальную программу раскрытия уязвимостей.

Подписка на ProtonVPN включает в себя IP-маскер, который предотвращает отслеживание ваших действий в интернете, а также встроенный блокировщик рекламы. Наши тесты показали, что просмотр веб-страниц и стриминг контента с использованием этого VPN происходит быстро и без задержек, что не всегда характерно для подобных сервисов.

Однако стоит отметить, что по окончании срока действия скидочной подписки, компания автоматически продлит её по стандартной цене. Если вы не планируете продолжать использование сервиса, не забудьте отменить подписку заранее.

Следите за последними скидками и советами по покупкам в области технологий, подписываясь на @EngadgetDeals на X.

Эта статья первоначально появилась на Engadget по ссылке.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Google DeepMind’s AI Agent Dreams Up Algorithms Beyond Human Expertise

Компания Google DeepMind представила новую систему, которая сочетает кодирующие способности Gemini с эволюционным подходом. Эта инновационная технология открывает новые горизонты в области оптимизации дата-центров, разработки чипов и тонкой настройки больших языковых моделей. Давайте рассмотрим, как это работает и какие преимущества она приносит.

Сочетание кодирующих способностей Gemini и эволюционного подхода

Gemini — это передовая технология, разработанная Google DeepMind, которая обладает уникальными способностями в области кодирования и оптимизации алгоритмов. В сочетании с эволюционным подходом, который включает в себя итеративное улучшение решений через множество поколений, новая система способна находить решения, которые выходят за рамки человеческих возможностей.

Оптимизация дата-центров

Одной из ключевых областей применения новой системы является оптимизация расписания работы дата-центров. Дата-центры потребляют огромное количество энергии и требуют точного управления для обеспечения максимальной эффективности. Новая система позволяет значительно улучшить расписание работы серверов, что приводит к снижению энергопотребления и уменьшению затрат на охлаждение.

Разработка чипов

Разработка чипов — это сложный и трудоемкий процесс, требующий глубоких знаний и опыта. Новая система Google DeepMind способна автоматизировать многие этапы этого процесса, предлагая оптимальные решения для архитектуры чипов. Это позволяет сократить время разработки и повысить производительность конечных продуктов.

Тонкая настройка больших языковых моделей

Большие языковые модели, такие как те, что используются в современных AI-ассистентах, требуют тонкой настройки для достижения максимальной точности и эффективности. Новая система Google DeepMind позволяет автоматически настраивать эти модели, используя эволюционный подход для поиска оптимальных параметров. Это приводит к улучшению качества генерируемого текста и повышению общей производительности моделей.

Заключение

Новая система Google DeepMind, сочетающая кодирующие способности Gemini с эволюционным подходом, открывает новые возможности в области оптимизации дата-центров, разработки чипов и тонкой настройки больших языковых моделей. Эти инновации обещают значительные улучшения в эффективности и производительности, выходящие за рамки человеческих возможностей.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

В Android появится режим усиленной защиты от взлома и перехвата звонков

Google объявила о внедрении нового режима безопасности в предстоящей версии операционной системы Android 16. Нововведение, известное как усиленная защита (Advanced Protection), призвано значительно повысить уровень безопасности пользователей, защищая их от различных типов кибератак.

Что такое режим усиленной защиты?

Режим усиленной защиты представляет собой комплекс мер, направленных на предотвращение взлома и перехвата звонков. В частности, он будет эффективен против атак, при которых злоумышленники используют незащищённые сети операторов для перехвата звонков или отправки мошеннических сообщений.

Как это работает?

В режиме усиленной защиты смартфоны на базе Android 16 смогут автоматически обнаруживать и блокировать подозрительные действия. Например, если система заметит попытку перехвата звонка через незащищённую сеть, она тут же предпримет меры для предотвращения атаки. Пользователи будут получать уведомления о таких инцидентах, что позволит им оперативно реагировать на угрозы.

Зачем это нужно?

Согласно данным различных исследований, количество кибератак на мобильные устройства растёт с каждым годом. По данным отчёта компании Norton, в 2022 году более 50% пользователей мобильных устройств сталкивались с попытками мошенничества или взлома. Новый режим усиленной защиты в Android 16 станет важным шагом в обеспечении безопасности пользователей в условиях растущих угроз.

Как включить режим усиленной защиты?

Пользователи смогут включить режим усиленной защиты через настройки безопасности своего устройства. Google обещает, что процесс активации будет максимально простым и интуитивно понятным, чтобы каждый пользователь мог воспользоваться новой функцией без дополнительных сложностей.

Заключение

Введение режима усиленной защиты в Android 16 станет важным шагом в обеспечении безопасности пользователей. С появлением этой функции пользователи смогут быть уверены, что их звонки и сообщения защищены от перехвата и мошеннических действий. Google продолжает работать над улучшением безопасности своей операционной системы, делая её всё более надёжной и защищённой для миллионов пользователей по всему миру.

Источник изображения: security.googleblog.com

Подпишитесь на новости в телеграм: https://t.me/itnewsros

OpenAI рассматривает строительство ЦОД в ОАЭ

Компания OpenAI, известная своими передовыми разработками в области искусственного интеллекта, рассматривает возможность строительства нового дата-центра в Объединенных Арабских Эмиратах. Этот шаг может значительно укрепить её позиции на Ближнем Востоке, сообщает Bloomberg со ссылкой на осведомлённые источники.

Решение о строительстве дата-центра пока не принято, и ситуация может измениться в зависимости от результатов визита президента США Дональда Трампа (Donald Trump) в регион. Глава OpenAI Сэм Альтман (Sam Altman) также находится в ОАЭ в рамках делового тура технологических лидеров.

В самой OpenAI пока не комментируют слухи о возможном строительстве дата-центра. Однако недавно компания заявляла о поиске сотрудничества с национальными правительствами для создания ИИ-инфраструктуры за пределами США и продвижения американского лидерства в этой сфере.

Возможная сделка, вероятно, связана с инвестиционной активностью на время поездки Трампа по региону. В частности, планируется предоставить расширенный доступ к передовым полупроводникам бизнесу из Саудовской Аравии. Ранее США ограничили такой доступ для большинства стран мира.

Этот шаг может стать важным этапом в глобальной стратегии OpenAI, направленной на расширение её влияния и укрепление позиций на международном рынке. В условиях растущей конкуренции в сфере искусственного интеллекта, компания стремится занять лидирующие позиции не только в США, но и за их пределами.

Следует отметить, что OpenAI уже имеет значительный опыт в создании и эксплуатации дата-центров, что позволяет ей эффективно масштабировать свои решения и предоставлять высококачественные услуги по всему миру.

В случае успешного завершения переговоров, строительство дата-центра в ОАЭ может стать важным шагом в развитии ИИ-инфраструктуры на Ближнем Востоке и способствовать дальнейшему технологическому прогрессу в регионе.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Apple представила ИИ, который создаёт 3D-объекты и сцены всего из трёх фото

Команда Apple по машинному обучению совместно с исследователями из Нанкинского университета и Гонконгского университета науки и технологий представила революционную 3D-ИИ-модель под названием Matrix3D. Эта модель способна воссоздавать сложные 3D-объекты и сцены на основе всего нескольких 2D-фотографий.

Matrix3D представляет собой значительный прорыв в области компьютерного зрения и машинного обучения. Традиционно для создания точных 3D-моделей требовалось множество изображений, снятых под разными углами, а также сложные вычислительные ресурсы. Новая модель Apple существенно упрощает этот процесс, делая его доступным для более широкого круга пользователей и приложений.

Основное преимущество Matrix3D заключается в её способности анализировать и интерпретировать пространственную информацию из ограниченного набора данных. Это достигается за счёт использования передовых алгоритмов машинного обучения, которые обучены на больших наборах данных, включающих разнообразные объекты и сцены.

Потенциальные применения этой технологии весьма обширны. От создания виртуальной и дополненной реальности до улучшения навигационных систем и робототехники — Matrix3D открывает новые горизонты для разработчиков и исследователей. Например, в области виртуальной реальности эта технология может значительно ускорить процесс создания иммерсивных окружений, делая их более реалистичными и детализированными.

Внедрение Matrix3D также может иметь значительное влияние на индустрию видеоигр, где создание 3D-моделей является одним из самых трудоёмких и затратных процессов. С помощью этой технологии разработчики смогут быстрее и эффективнее создавать игровые миры, сокращая время и затраты на производство.

Исследователи из Нанкинского университета и Гонконгского университета науки и технологий подчеркнули, что сотрудничество с Apple позволило им достичь невероятных результатов в кратчайшие сроки. Комбинация опыта и ресурсов Apple с научными достижениями университетов создала синергетический эффект, который привёл к созданию столь передовой модели.

В заключение, Matrix3D от Apple представляет собой важный шаг вперёд в области машинного обучения и компьютерного зрения. Эта технология имеет потенциал изменить множество отраслей, делая процесс создания 3D-моделей более доступным и эффективным. Будущее за 3D-технологиями, и Apple, кажется, готова вести этот путь.

Источник изображения: 9to5mac.com

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Слухи: хакер украл данные 89 миллионов пользователей Steam и выставил их на продажу

Недавно независимый журналист MellolwOnline1, известный своим вкладом в сообщество SteamSentinels, предупредил о возможной масштабной утечке данных пользователей Steam. Это сообщество занимается отслеживанием злоупотреблений и мошенничества в экосистеме популярной игровой платформы.

По сообщениям, хакер утверждает, что украл данные 89 миллионов пользователей Steam и выставил их на продажу. Это вызывает серьезную озабоченность среди пользователей платформы, так как утечка может включать личную информацию, такую как логины, пароли, адреса электронной почты и даже платежные данные.

Steam, принадлежащая компании Valve, является одной из крупнейших цифровых платформ для распространения игр, с миллионами активных пользователей по всему миру. Утечка данных такого масштаба может иметь катастрофические последствия для безопасности и конфиденциальности пользователей.

Valve пока не комментировала эти слухи, но пользователи уже начали принимать меры предосторожности. Эксперты рекомендуют изменить пароли, включить двухфакторную аутентификацию и внимательно следить за любыми подозрительными действиями на своих аккаунтах.

Ситуация напоминает о важности кибербезопасности и необходимости защиты личных данных в цифровом мире. Пользователи должны быть бдительными и использовать все доступные средства для защиты своих аккаунтов.

В случае подтверждения утечки, Valve, вероятно, предпримет меры для минимизации ущерба и защиты своих пользователей. Однако, пока официального подтверждения нет, пользователи должны быть готовы к худшему сценарию и заранее принять меры предосторожности.

Источник изображения: «МТС Оплата»

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Space Forge запустит производство уникальных материалов для чипов и не только в космосе

Британский стартап Space Forge готовится к запуску первого в мире возвращаемого производственного спутника ForgeStar-1 уже в 2025 году. Этот амбициозный проект направлен на серийное производство уникальных материалов, которые могут революционизировать индустрии полупроводников, квантовых вычислений и чистой энергетики.

Условия микрогравитации и вакуума, которые присутствуют в космосе, создают идеальную среду для производства материалов с уникальными свойствами. Эти материалы не могут быть созданы на Земле из-за влияния гравитации и атмосферного давления. Space Forge планирует использовать эти условия для создания новых поколений полупроводников, которые могут значительно улучшить производительность и энергоэффективность электронных устройств.

Квантовые вычисления также могут получить значительный толчок благодаря материалам, произведенным в космосе. Квантовые компьютеры требуют высокой степени чистоты и стабильности, что трудно достичь в земных условиях. Материалы, произведенные в микрогравитации, могут предоставить необходимую чистоту и стабильность для создания более мощных и надежных квантовых процессоров.

Чистая энергетика — еще одна область, которая может извлечь выгоду из космического производства. Новые материалы могут улучшить эффективность солнечных панелей, аккумуляторов и других технологий, связанных с возобновляемой энергией. Это может способствовать более широкому внедрению чистых источников энергии и снижению зависимости от ископаемых видов топлива.

Запуск ForgeStar-1 — это лишь первый шаг в долгосрочной стратегии Space Forge. Компания планирует создать целую сеть производственных спутников, которые будут работать в космосе, производя материалы для различных отраслей промышленности. Это открывает новые горизонты для науки и техники, делая космос не только местом для исследований, но и полноценной производственной площадкой.

Стартап Space Forge демонстрирует, как инновационные технологии и космические исследования могут работать вместе, чтобы решать насущные проблемы на Земле. Производство уникальных материалов в космосе может стать ключом к новым технологическим прорывам и устойчивому развитию.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Роботакси китайской Baidu скоро появятся на дорогах Европы

Китайский интернет-гигант Baidu, известный своими инновациями в области искусственного интеллекта и автономных транспортных средств, готовится к значительному шагу на международную арену. Компания планирует протестировать свой сервис беспилотных такси в Европе, что станет важным этапом в расширении её глобального присутствия.

Планы по запуску в Европе

В ближайшие месяцы Baidu намерена создать подразделение в Швейцарии, где и начнется тестирование роботакси Apollo Go. Планируется, что первые испытания начнутся к концу этого года. Швейцария была выбрана не случайно: страна известна своей развитой инфраструктурой и благоприятными условиями для инноваций в области транспорта.

Расширение на турецкий рынок

Параллельно с запуском в Швейцарии, Baidu собирается запустить Apollo Go в Турции. Этот шаг подчеркивает стремление компании к диверсификации своего присутствия на международных рынках и адаптации к различным условиям и требованиям.

Конкуренция и глобальные амбиции

Подобно другим китайским технологическим гигантам, Baidu стремится расширить своё присутствие за рубежом, особенно на фоне усиливающейся внутренней конкуренции. Внутренний рынок Китая, несмотря на свою огромность, становится всё более насыщенным, что побуждает компании искать новые возможности за пределами страны.

Технологические инновации

Сервис Apollo Go, разработанный Baidu, представляет собой передовую платформу для автономных транспортных средств. Компания активно инвестирует в исследования и разработки в области искусственного интеллекта и машинного обучения, что позволяет ей оставаться на передовой технологических инноваций.

Заключение

Запуск роботакси Apollo Go в Европе и Турции станет важным шагом для Baidu в её стремлении к глобальному лидерству в области автономных транспортных средств. Компания продолжает демонстрировать свою способность к инновациям и адаптации к различным рыночным условиям, что делает её одним из ключевых игроков на мировой арене.

* Компания Meta (Facebook* и Instagram*) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

США предупреждают компании по всему миру держаться подальше от чипов Huawei

Соединенные Штаты Америки усиливают контроль над экспортом технологий, используемых Китаем для производства процессоров искусственного интеллекта (ИИ). Этот шаг является частью более широкой стратегии США по ограничению доступа Китая к передовым технологиям, которые могут быть использованы для military purposes.

В последние годы Китай активно инвестирует в развитие ИИ, стремясь стать мировым лидером в этой области. По данным аналитической компании Tractica, мировой рынок ИИ достигнет $190 миллиардов к 2025 году, и Китай намерен занять значительную долю этого рынка. Однако, США опасаются, что китайские компании, такие как Huawei, могут использовать эти технологии для шпионажа или других враждебных действий.

Huawei, один из крупнейших производителей телекоммуникационного оборудования и смартфонов в мире, уже столкнулся с серьезными ограничениями со стороны США. В мае 2019 года компания была включена в черный список Министерства торговли США, что ограничило ее доступ к американским технологиям и компонентам. Теперь США планируют ужесточить эти меры, чтобы полностью блокировать поставки технологий, используемых для производства процессоров ИИ.

Эти меры могут иметь значительные последствия для глобальной технологической индустрии. Многие компании по всему миру используют китайские компоненты в своих продуктах, и новые ограничения могут заставить их искать альтернативные поставщики. Это может привести к росту цен на технологические продукты и задержкам в их производстве.

В то же время, эксперты отмечают, что такие меры могут стимулировать развитие отечественных технологий в Китае. Китайские компании уже активно инвестируют в исследования и разработки, чтобы сократить зависимость от иностранных технологий. В долгосрочной перспективе это может сделать Китай еще более самостоятельным и конкурентоспособным на мировом рынке.

Таким образом, усиление контроля sobre экспорт технологий со стороны США является важным шагом в глобальной технологической гонке. Однако, его последствия могут быть сложными и многогранными, влияя как на международные отношения, так и на мировую экономику.

Подпишитесь на новости в телеграм: https://t.me/itnewsros