Автор: News Maker

Виноваты ли плохие стимулы в галлюцинациях ИИ?

Как чат-бот может быть настолько неправ — и при этом звучать так уверенно в своей неправоте? Этот вопрос становится всё более актуальным по мере того, как искусственный интеллект (ИИ) всё глубже проникает в нашу повседневную жизнь. Галлюцинации ИИ — это явление, при котором ИИ генерирует информацию, которая кажется правдоподобной, но на самом деле является ложной. Это может привести к серьёзным последствиям, особенно если ИИ используется в критически важных областях, таких как медицина или финансы.

Одной из причин, по которой ИИ может генерировать неверную информацию, является использование плохих стимулов. Стимулы — это сигналы, которые побуждают ИИ действовать определённым образом. Если эти стимулы сформулированы неправильно, ИИ может начать генерировать информацию, которая не соответствует действительности.

Например, если ИИ обучается на данных, которые содержат ошибки или предвзятости, он может начать воспроизводить эти ошибки и предвзятости в своих ответах. Это особенно актуально для чат-ботов, которые обучаются на больших объёмах текстовых данных. Если эти данные содержат ложную информацию, чат-бот может начать воспроизводить её, звуча при этом уверенно.

Другой пример — это использование метрик, которые не отражают реальную полезность ответов ИИ. Например, если ИИ оценивается по количеству слов в ответе, он может начать генерировать длинные, но бессодержательные ответы. Это может создать иллюзию компетентности, но на самом деле не приносит никакой реальной пользы.

Исследования показывают, что до 70% пользователей доверяют информации, предоставленной ИИ, даже если она является ложной. Это подчёркивает важность разработки надёжных методов оценки и проверки информации, генерируемой ИИ.

В заключение, галлюцинации ИИ — это серьёзная проблема, которая требует внимательного подхода. Разработчики ИИ должны тщательно проверять данные, на которых обучается их система, и использовать метрики, которые отражают реальную полезность ответов. Только так можно минимизировать риск генерации неверной информации и повысить доверие пользователей к технологиям ИИ.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Microsoft сообщает о проблемах с Azure после повреждения кабелей в Красном море

Компания Microsoft столкнулась с серьезными проблемами в работе своего облачного сервиса Azure после того, как были повреждены подводные кабели в Красном море. Инцидент произошел недавно, и пока не ясно, кто именно повредил кабели и с какой целью.

Подводные кабели играют ключевую роль в глобальной инфраструктуре интернета, обеспечивая связь между континентами и поддерживая работу множества онлайн-сервисов. Повреждение таких кабелей может привести к значительным сбоям в работе интернета и облачных сервисов, что и произошло в данном случае.

Microsoft Azure — один из ведущих облачных сервисов в мире, используемый миллионами пользователей и компаний по всему миру. Сбои в его работе могут привести к серьезным последствиям для бизнеса, включая потерю данных, снижение производительности и финансовые убытки.

Пока нет точной информации о том, кто именно повредил кабели. Это могло быть результатом как естественных причин, таких как землетрясения или подводные течения, так и человеческого фактора, включая возможные акты вандализма или саботажа.

Microsoft уже приступила к восстановлению работы своих сервисов и принимает меры для минимизации последствий инцидента. Компания также работает с международными партнерами и организациями для выяснения причин произошедшего и предотвращения подобных инцидентов в будущем.

Важно отметить, что подводные кабели являются критически важной инфраструктурой, и их защита требует международного сотрудничества и координации усилий. Инциденты, подобные этому, подчеркивают необходимость повышения уровня безопасности и надежности глобальных коммуникационных сетей.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Uber и Momenta планируют тестировать автономные автомобили в Германии в 2026 году

Компания Uber, известная своими инновациями в области транспортных услуг, объявила о планах по тестированию автономных автомобилей в Германии к 2026 году. В этом амбициозном проекте Uber сотрудничает с Momenta, одной из 20 глобальных компаний, специализирующихся на технологиях автономного вождения (AV).

Momenta является одним из ключевых партнеров Uber, работающих над внедрением автономных технологий в различные бизнес-направления компании, включая услуги по вызову такси, доставку и грузоперевозки. Сотрудничество с такими партнерами уже принесло свои плоды: по данным Uber, эти партнерства генерируют более 1.5 миллиона единиц мобильности и доставки в год.

Автономные автомобили представляют собой будущее транспортной индустрии, обещая повысить безопасность на дорогах, снизить количество аварий и улучшить эффективность транспортных систем. Uber и Momenta планируют использовать Германию в качестве площадки для тестирования своих технологий, что позволит им собрать ценные данные и усовершенствовать свои системы перед масштабным внедрением.

Почему Германия?

Германия была выбрана не случайно. Страна известна своей передовой инфраструктурой и строгими стандартами безопасности, что делает её идеальным местом для тестирования новых транспортных технологий. Кроме того, Германия активно поддерживает развитие автономных транспортных средств, предоставляя необходимые ресурсы и нормативную базу для проведения испытаний.

Перспективы и вызовы

Несмотря на оптимистичные прогнозы, внедрение автономных автомобилей сопряжено с множеством вызовов. Одним из главных является обеспечение безопасности пассажиров и других участников дорожного движения. Uber и Momenta уделяют особое внимание разработке надежных систем, способных эффективно реагировать на различные дорожные ситуации и минимизировать риск аварий.

Еще одним важным аспектом является принятие общественности. Автономные автомобили должны не только быть безопасными, но и вызывать доверие у потребителей. Для этого Uber планирует проводить информационные кампании и демонстрации, чтобы познакомить широкую аудиторию с преимуществами новых технологий.

Заключение

Проект Uber и Momenta по тестированию автономных автомобилей в Германии является важным шагом на пути к будущему транспорта. Компании надеются, что собранные данные и опыт помогут им создать более совершенные и безопасные системы, которые в конечном итоге изменят наш подход к передвижению.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Крупные технологические компании поддержат инициативу Белого дома по внедрению ИИ в американские школы

Вчера Белый дом провел мероприятие, посвященное внедрению искусственного интеллекта (ИИ) в образовательные программы американских школ. На мероприятии присутствовали представители крупных технологических и ИИ-компаний, включая Amazon, Google, Microsoft, OpenAI и Anthropic. Эти компании уже опубликовали пресс-релизы, в которых подтвердили свою приверженность инициативе Белого дома по развитию интереса к технологиям ИИ, повышению грамотности и компетентности в этой области, а также обеспечению всесторонней подготовки для родителей и педагогов.

Обязательства компаний включают предоставление денежных призов для учеников и учителей, использующих ИИ в образовательных целях, а также доступ к их ИИ-инструментам, тренингам и сертификациям на льготных или бесплатных условиях. Мероприятие прошло под руководством первой леди Мелании Трамп.

На первый взгляд, инициатива выглядит многообещающе. Понимание ИИ и его возможностей уже становится важным аспектом в адаптации различных отраслей к новым технологиям. Однако, учитывая, что нынешняя администрация активно пытается разрушить Министерство образования за излишнюю «пробужденность», остаются сомнения в том, что внедрение ИИ будет продуманным и хорошо организованным процессом, направленным на благо учащихся. Неясно, были ли привлечены к разработке этих инициатив настоящие учителя или их мнение было учтено при подготовке студентов к внедрению ИИ.

Для любителей злорадства стоит отметить, что бывший близкий друг Трампа, Илон Маск, не был приглашен на вчерашнее мероприятие. Однако Маск утверждает, что его все-таки пригласили, но он не смог присутствовать. Возможно.

Источник: Engadget

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Warner Bros. Discovery подает в суд на Midjourney за нарушение авторских прав

Медиагигант Warner Bros. Discovery подал иск против популярного генератора изображений на основе искусственного интеллекта Midjourney, обвиняя компанию в краже и использовании своих интеллектуальных прав. Основной претензией стало то, что AI-инструмент Midjourney способен создавать изображения и видео с участием популярных персонажей Warner Bros., таких как Супермен, Бэтмен, Чудо-женщина, Скуби-Ду, Багз Банни и его друзья из Looney Tunes.

В иске Warner Bros. Discovery утверждает, что Midjourney «считает себя выше закона». Компания заявляет, что генератор изображений продает коммерческую подписку, основанную на технологии ИИ, которая была незаконно обучена на защищенных авторским правом произведениях. Warner Bros. Discovery утверждает, что Midjourney имеет технологические возможности предотвратить создание изображений с их персонажами, но предпочла этого не делать.

Изначально Midjourney отказывалась генерировать видео на основе собственности Warner Bros., но в последние несколько недель якобы убрала эти ограничения и сообщила пользователям, что они столкнутся с «меньшим количеством блокировок». Способность генерировать изображения персонажей Warner Bros. является очевидным преимуществом для подписной службы Midjourney, стоимость которой варьируется от $10 до $120 в месяц.

В иске приводятся многочисленные примеры изображений и видеокадров, созданных Midjourney, которые сравниваются с оригинальными материалами фильмов и сериалов Warner Bros. Например, изображение, сгенерированное Midjourney по запросу «Бэтмен, кадр из фильма ‘Темный рыцарь'», показано рядом с реальными промо-материалами фильма с Кристианом Бейлом в главной роли. Кроме того, общие запросы, такие как «классическая битва супергероев из комиксов», могут приводить к созданию изображений с участием персонажей Warner Bros., даже если они не упоминаются напрямую.

Это не первый случай, когда Midjourney сталкивается с обвинениями в нарушении авторских прав. В июне Disney и Universal Studios также подали иск против AI-сервиса, обвинив его в использовании «бесчисленного количества» защищенных авторским правом произведений для обучения своих моделей и нарушении авторских прав, позволяя пользователям генерировать изображения персонажей из «Звездных войн», «Шрека», «Симпсонов» и «Гадкий я», среди прочих.

Warner Bros. Discovery требует от суда компенсации в размере до $150,000 за каждое нарушение авторских прав, что связано с умышленным нарушением со стороны Midjourney. Мы связались с Midjourney для комментариев и обновим эту статью, как только получим ответ.

Эта статья первоначально появилась на Engadget по адресу https://www.engadget.com/ai/warner-bros-discovery-is-suing-midjourney-for-copyright-infringement-035850831.html?src=rss.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

OpenAI начнет массовое производство собственных AI-чипов в следующем году

Компания OpenAI, известная своими передовыми разработками в области искусственного интеллекта, собирается начать массовое производство собственных AI-чипов уже в следующем году. Это решение направлено на удовлетворение растущих потребностей пользователей в вычислительной мощности и снижение зависимости от NVIDIA, сообщает Financial Times.

Согласно источникам, OpenAI разработала специализированные AI-чипы в сотрудничестве с американской компанией Broadcom, производителем полупроводников. Недавно генеральный директор Broadcom объявил о новом клиенте, который разместил заказ на сумму $10 миллиардов. Хотя компания не назвала клиента, источники Times подтвердили, что речь идет об OpenAI, которая планирует использовать эти чипы исключительно для внутренних нужд, без намерения продавать их на рынке.

Еще в 2023 году Reuters сообщала, что OpenAI рассматривала возможность создания собственных чипов после того, как генеральный директор компании Сэм Алтман связал проблемы с скоростью и надежностью API с дефицитом графических процессоров (GPU). В то время также сообщалось, что OpenAI работает с Broadcom и Taiwan Semiconductor Manufacturing Co. (TSMC) над созданием собственных продуктов. Однако, Times не уточняет, продолжается ли сотрудничество с TSMC.

После выхода GPT-5 Сэм Алтман объявил о мерах, которые OpenAI предпринимает для удовлетворения «увеличивающегося спроса». Помимо приоритета для платных пользователей ChatGPT, он упомянул планы удвоить вычислительные мощности компании в течение следующих пяти месяцев. Создание собственных чипов поможет решить проблемы с возможным дефицитом GPU и может сэкономить компании значительные средства.

Times отмечает, что специализированные AI-чипы, такие как «XPUs», которые разрабатывает OpenAI, со временем могут занять значительную долю рынка AI. В настоящее время лидером в этой области остается NVIDIA, которая недавно сообщила, что her доход за второй квартал, завершившийся 27 июля, вырос на 56% по сравнению с аналогичным периодом прошлого года, и это без поставок чипов H20 в Китай.

Шаг OpenAI к производству собственных чипов подчеркивает стремление компании к независимости и инновациям в быстро развивающемся мире искусственного интеллекта.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

BMW и Qualcomm представляют совместно разработанную систему помощи водителю

Компании BMW и Qualcomm объявили о запуске новой системы помощи водителю Snapdragon Ride Pilot, которая дебютирует на электрическом внедорожнике BMW iX3. Эта инновационная система предлагает водителям функции автономного вождения на шоссе, автоматической смены полосы и помощи при парковке.

Snapdragon Ride Pilot является системой помощи водителю уровня 2+, что означает, что водители все еще должны контролировать движение автомобиля и следить за дорогой, используя эти функции. Система не является полностью автономной, но значительно улучшает безопасность и комфорт вождения.

Софтверный стек Snapdragon Ride Pilot состоит из нескольких слоев, обеспечивающих автономные функции. Первый слой — это 360-градусное восприятие, которое использует камеры для обнаружения объектов, интерпретации дорожных знаков и помощи при парковке. Второй слой — это контекстуально-ориентированное вождение, которое сочетает в себе правила и модели на основе искусственного интеллекта для планирования и прогнозирования поведения в сложных дорожных ситуациях.

Qualcomm подчеркивает, что их система разработана с учетом безопасности. Она включает в себя функции кибербезопасности и соответствует строгим глобальным стандартам автомобильной безопасности, таким как ISO’s Automotive Safety Integrity Levels и Functional Safety.

Snapdragon Ride Pilot уже протестирована в 60 странах мира, и Qualcomm планирует расширить доступность системы до более чем 100 стран к 2026 году. Компания также предлагает эту систему всем мировым автопроизводителям.

Этот проект является очередным шагом Qualcomm в области высоких технологий для автомобилей. В прошлом году компания начала сотрудничество с Google* над созданием систем голосового управления на основе искусственного интеллекта для автомобилей. Кроме того, Qualcomm уже работала с Volvo над их информационно-развлекательными системами.

Qualcomm не единственная компания, инвестирующая в технологии автономного вождения. Такие гиганты, как NVIDIA и Mobileye, также активно разрабатывают чипы и программное обеспечение для систем помощи водителю.

* Компания Qualcomm* (Google, Volvo) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Европейский Союз оштрафовал Google на $3.5 млрд за нарушение антимонопольных законов в сфере рекламных технологий

Европейская комиссия объявила о наложении штрафа на Google в размере €2.95 млрд (около $3.5 млрд) за нарушение антимонопольных законов ЕС и «искажение конкуренции в индустрии рекламных технологий». Это решение последовало за аналогичным вердиктом, вынесенным в начале 2025 года федеральным судьей США, который заключил, что Google занимает монопольное положение в области онлайн-рекламных технологий.

Google не только отображает рекламу в результатах поиска, но и занимает доминирующее положение как поставщик программного обеспечения для онлайн-рекламодателей и издателей, желающих продать рекламное пространство и разместить объявления. Основная претензия Комиссии касается взаимодействия рекламных инструментов Google (Google Ads и DV 360) с его биржевым программным обеспечением (AdX) и серверами рекламодателей (DFP) в предпочтительном порядке.

По мнению Комиссии, Google отдает предпочтение своей бирже AdX, «информируя AdX заранее о стоимости лучшего предложения от конкурентов, которое необходимо превзойти для победы на аукционе». Также было установлено, что «Google Ads избегает конкурирующих бирж и в основном размещает ставки на AdX», поддерживая доминирование биржи Google даже в тех случаях, когда альтернативы могут быть более выгодными для рекламодателей.

Комиссия дала Google 60 дней на предstellung плана по устранению этих проблем, в противном случае компании грозит «соответствующее наказание» за нарушение антимонопольных законов. Это может ограничиться штрафом, но также может включать принудительную продажу части или всей рекламной деятельности Google.

Ли-Энн Малхолланд, глава глобального департамента по регуляторным вопросам Google, заявила, что компания намерена обжаловать это решение:

«Решение Европейской комиссии о наших рекламных технологиях ошибочно, и мы будем его обжаловать. Оно налагает необоснованный штраф и требует изменений, которые нанесут ущерб тысячам европейских бизнесов, сделав им труднее зарабатывать деньги. В предоставлении услуг для покупателей и продавцов рекламы нет ничего антиконкурентного, и альтернатив нашим услугам больше, чем когда-либо прежде».

$3.5 млрд — это огромная сумма, но это не самый крупный штраф, наложенный на Google за нарушение законов ЕС. В 2018 году компания была оштрафована на $5.04 млрд за требование к мобильным операторам предустанавливать приложения Google на смартфоны. Несмотря на усиливающееся внимание к бизнес-практикам Google в последнее десятилетие, компания пока избежала структурных изменений, несмотря на обвинения в антиконкурентном поведении.

Например, в 2024 году суд США признал Google монополистом в области онлайн-поиска, но недавно судья постановил, что компания не обязана продавать Chrome или прекращать платить Apple за то, чтобы Google был поисковиком по умолчанию на iPhone. Европейские регуляторы традиционно проявляют больше настойчивости, чем их американские коллеги, и Европейская комиссия расследует Google по поводу других вопросов, связанных с рекламой. Однако остается вопрос, смогут ли какие-либо наказания действительно повлиять на компанию.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Anthropic выплатит рекордные $1,5 млрд по иску авторов о нарушении авторских прав

Компания Anthropic, разработчик чат-бота Claude, согласилась выплатить рекордную сумму в $1,5 млрд для урегулирования коллективного иска о нарушении авторских прав, поданного авторами. Это крупнейшая выплата по делу о нарушении авторских прав в истории США.

Соглашение было достигнуто на прошлой неделе, однако условия сделки не разглашались до момента публикации статьи в The New York Times. По условиям соглашения, около 500,000 авторов, участвующих в иске, получат компенсацию в размере $3,000 за каждое произведение.

Адвокат, представляющий интересы авторов, Джастин А. Нельсон, заявил: «Это соглашение является первым в своем роде в эпоху ИИ. Оно превосходит любые другие известные выплаты по делам о нарушении авторских прав. Оно обеспечит значительную компенсацию для каждого произведения и устанавливает прецедент, требующий от компаний, работающих в сфере ИИ, выплачивать вознаграждение правообладателям. Это соглашение посылает мощный сигнал компаниям, работающим в сфере ИИ, и создателям контента о том, что использование пиратских сайтов для получения защищенных авторским правом произведений недопустимо».

Этот случай привлек внимание, так как ведущие компании в области ИИ все чаще сталкиваются с юридическими проблемами из-за использования защищенных авторским правом материалов. В июне судья постановил, что использование Anthropic защищенных авторским правом материалов для обучения своей модели большого языка является справедливым использованием, что стало значительной победой для компании. Однако судья также постановил, что авторы и издатели могут продолжать свои иски о пиратстве, так как книги были скачаны с пиратских сайтов, таких как Library Genesis (также известный как «LibGen»).

В рамках соглашения Anthropic также согласилась удалить все материалы, скачанные незаконно, и заявила, что не использовала никаких пиратских материалов для создания общедоступных технологий ИИ, сообщает The New York Times. Компания не признала своей вины.

«В июне окружной суд вынес решение, устанавливающее прецедент в области разработки ИИ и авторского права, признав, что подход Anthropic к обучению моделей ИИ является справедливым использованием», — заявила заместитель генерального юрисконсульта Anthropic Апарна Сридхар. «Сегодняшнее соглашение, если оно будет одобрено, урегулирует оставшиеся претензии истцов. Мы по-прежнему привержены разработке безопасных систем ИИ, которые помогают людям и организациям расширять свои возможности, продвигать научные открытия и решать сложные проблемы».

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Разработчики Unity теперь могут использовать встроенные инструменты экранного чтения на macOS и Windows

Компания Unity обновила свой игровой движок, добавив поддержку встроенных экранных читалок для macOS и Windows. Эта функция уже доступна в альфа-версии Unity 6000.3.0a5 и значительно упростит процесс создания доступных игр для слепых игроков, сообщает Can I Play That?.

Экранные читатели озвучивают меню на экране, позволяя слепым и слабовидящим игрокам навигацию в игре или программном обеспечении без дополнительной помощи. Обычно программное обеспечение для чтения с экрана разрабатывается индивидуально для каждой игры, что может быть ресурсоемким для разработчиков. «Создание такого инструмента с нуля требует раннего принятия решения в процессе разработки, чтобы выделить необходимое время и ресурсы для его правильного выполнения», — делится Стив Сейлор, консультант по доступности и создатель, в своем посте на Bluesky. «Имея его в движке, основная работа уже сделана для вас, и затраты времени и ресурсов теперь значительно ниже».

Ранее Unity предоставляла API для встроенных экранных читалок Android и iOS в своем релизе Unity 6.0, но до сих пор не добавляла поддержку Windows Narrator или macOS VoiceOver. С этой новой альфа-версией и ее будущим релизом в виде Unity 6.3, разработчики, создающие игры с использованием Unity, получат доступ к встроенному экранному чтению на всех основных платформах движка. Учитывая популярность Unity как игрового движка, это может значительно улучшить доступность будущих игр.

Этот шаг является важным прорывом в области доступности видеоигр, делая их более доступными для широкой аудитории, включая людей с ограниченными возможностями зрения. Благодаря встроенным инструментам экранного чтения, разработчики смогут сосредоточиться на создании увлекательных игровых механик и сюжетов, не беспокоясь о технической стороне доступности.

Источник: Engadget

Подпишитесь на новости в телеграм: https://t.me/itnewsros