Блог

Исследование Veracode показало: почти половина кода от ИИ уязвима

Новое исследование компании Veracode выявило тревожную тенденцию: почти 45% кода, сгенерированного искусственным интеллектом (ИИ), содержит уязвимости, несмотря на то, что на первый взгляд он кажется готовым к использованию в продакшен-среде. Это открытие подчеркивает важность дополнительных мер безопасности при использовании ИИ в разработке программного обеспечения.

В ходе исследования были проанализированы более 100 больших языковых моделей, выполняющих 80 различных задач программирования. Результаты показали, что ни размер моделей, ни их «свежесть» не влияют на уровень безопасности генерируемого кода. «Наше исследование показывает, что модели становятся лучше в синтаксисе, но не в безопасности», — отметил технический директор Veracode Йенс Вёсслинг.

Наибольший уровень уязвимостей был выявлен в коде, написанном на языке Java, — более 70% случаев. Однако и другие популярные языки программирования, такие как Python, C# и JavaScript, также показали высокие значения: от 38% до 45%.

Особенно часто ИИ не справляется с защитой от XSS-атак (86%) и log-инъекций (88%). При этом, согласно данным Veracode, всё больше разработчиков используют ИИ не только как помощника, но и как генератор кода.

Йенс Вёсслинг связывает проблему с новой практикой «вайб-кодинга», которая коренным образом меняет логику современной разработки. «Это, по его словам, коренным образом меняет логику современной разработки.»

Эксперты Veracode призывают внедрять автоматические проверки безопасности, использовать ИИ-инструменты для устранения уязвимостей, а также обучать разработчиков созданию кода при помощи ИИ с учётом рисков. «Ассистенты и автономные пайплайны — это будущее, но безопасность не может быть запоздалой мыслью. Иначе накопление уязвимостей станет необратимым», — предупреждают в Veracode.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Tesla обязали выплатить $243 млн после смертельной аварии со включённым Autopilot

Федеральный суд присяжных во Флориде вынес решение, частично признав компанию Tesla ответственной за смертельное ДТП, произошедшее в 2019 году при использовании системы помощи водителю Autopilot. По данным CBS News, Tesla должна выплатить более $200 миллионов в качестве штрафных санкций и около $43 миллионов в качестве компенсации семье погибшей.

Этот вердикт стал редким случаем судебного поражения для Tesla, так как большинство исков против Autopilot ранее завершались в пользу компании. Однако на этот раз присяжные пришли к выводу, что поведение водителя могло быть связано с чрезмерным доверием к возможностям системы.

Согласно материалам дела, водитель Tesla в момент аварии наклонился, чтобы поднять телефон, полагая, что «Autopilot предотвратит столкновение» (The New York Times). В результате столкновения погибла 22-летняя девушка.

Национальное управление по безопасности дорожного движения США ранее связывало Autopilot с сотнями аварий и десятками смертей. Тем не менее, Tesla продолжает тестирование беспилотного сервиса Robotaxi в Остине и районе залива Сан-Франциско.

Компания заявила, что будет оспаривать вердикт. В заявлении для прессы Tesla назвала решение присяжных «ошибочным» и отметила, что «оно ставит под угрозу всю отрасль и тормозит развитие технологий, которые могут спасать жизни».

Этот случай подчеркивает важность ответственного использования технологий помощи водителю и необходимость дальнейших исследований и улучшений в области автономного вождения. Tesla, несмотря на судебные разбирательства, продолжает вкладывать значительные ресурсы в развитие своих автономных систем, стремясь к созданию более безопасных и эффективных решений для водителей.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Проблемы с лицензиями: Nvidia сталкивается с задержками из-за затора в Министерстве торговли США

Недавние новости о заторе в Министерстве торговли США стали причиной беспокойства для компании Nvidia, которая ожидает разрешения на экспорт своих чипов H20 в Китай. Эта информация появилась менее чем через неделю после того, как эксперты в области национальной безопасности призвали администрацию Трампа пересмотреть свое решение, позволяющее Nvidia экспортировать эти чипы.

Чипы H20 являются одними из самых передовых решений Nvidia для искусственного интеллекта и машинного обучения. Они широко используются в различных отраслях, включая медицину, автомобильную промышленность и финансовые услуги. Однако, экспорт таких технологий в Китай вызывает опасения у американских властей, которые опасаются, что они могут быть использованы в военных целях.

Эксперты в области национальной безопасности утверждают, что экспорт чипов H20 в Китай может представлять угрозу для США. Они ссылаются на то, что китайские компании могут использовать эти технологии для улучшения своих военных возможностей, что может нарушить баланс сил в регионе.

Министерство торговли США, ответственное за выдачу лицензий на экспорт технологий, столкнулось с затором, что замедляет процесс рассмотрения заявок. Это вызывает беспокойство у компаний, таких как Nvidia, которые зависят от быстрого получения разрешений для поддержания своей конкурентоспособности на международном рынке.

Nvidia не единственная компания, пострадавшая от затора в Министерстве торговли. Многие другие технологические гиганты также сталкиваются с аналогичными проблемами, что подчеркивает необходимость реформы процесса выдачи лицензий. Эксперты считают, что упрощение и ускорение этого процесса могут способствовать развитию технологического сектора и укреплению позиций США на мировой арене.

В то время как Nvidia продолжает ожидать разрешения на экспорт своих чипов H20, компания также активно работает над разработкой новых технологий и продуктов. Ожидается, что в ближайшие месяцы Nvidia представит несколько новых решений, которые могут значительно изменить ландшафт индустрии искусственного интеллекта.

Таким образом, ситуация с затором в Министерстве торговли США остается в центре внимания, и ее разрешение может иметь далеко идущие последствия для технологической отрасли. Компании, такие как Nvidia, продолжают надеяться на скорейшее решение этой проблемы, чтобы продолжать свою деятельность на международном уровне.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Microsoft прекращает поддержку Windows 11 SE

Компания Microsoft объявила о прекращении поддержки своей операционной системы Windows 11 SE, которая была разработана как конкурент ChromeOS. Официально поддержка, включая обновления программного обеспечения, техническую помощь и исправления безопасности, прекратится в октябре 2026 года, согласно обновленному документу поддержки, обнаруженному NeoWin.

Windows 11 SE была анонсирована в 2021 году и позиционировалась как упрощенная и легкая версия операционной системы Microsoft, ориентированная на образовательные учреждения. В то время как Chromebooks и устройства на базе ChromeOS широко используются в школах по всему миру, Microsoft попыталась предложить конкурентоспособное решение. Windows 11 SE и выпущенный одновременно с ней Surface Laptop SE должны были стать ответом компании на растущую популярность ChromeOS в образовательной сфере.

Однако, как показывает решение Microsoft прекратить поддержку Windows 11 SE всего через пять лет после ее запуска, план не увенчался успехом. Операционная система была доступна на других бюджетных устройствах, но, по всей видимости, не смогла привлечь аудиторию, сопоставимую с ChromeOS. В противном случае, Microsoft, вероятно, не отказалась бы от нее так резко.

Windows 11 SE не является первой попыткой Microsoft создать более эффективную версию Windows. Например, компания также представила Windows 10 S (которая теперь существует как «S Mode» в Windows 11) и так и не запущенную Windows 10X, упрощенную версию Windows для устройств с двумя экранами.

Хотя устройства на базе Windows 11 SE будут продолжать работать после октября 2026 года, Microsoft рекомендует «переходить на устройства, поддерживающие другую версию Windows 11, чтобы обеспечить продолжение поддержки и безопасности».

Источник: Engadget

Подпишитесь на новости в телеграм: https://t.me/itnewsros

WIRED Roundup: ChatGPT Goes Full Demon Mode

В последнем выпуске подкаста «Uncanny Valley» наш старший бизнес-редактор обсудил актуальные темы, связанные с Meta*, старением мозга и недавним «темным» поворотом в поведении ChatGPT. Давайте рассмотрим каждую из этих тем подробнее.

Meta*: Новые горизонты и вызовы

Meta*, известная своими платформами Facebook* и Instagram*, продолжает развиваться и адаптироваться к новым вызовам. Компания активно инвестирует в технологии виртуальной и дополненной реальности, стремясь создать метавселенную, которая изменит наш способ взаимодействия с цифровым миром. Однако, несмотря на амбициозные планы, Meta* сталкивается с рядом проблем, включая регуляторное давление и вопросы конфиденциальности данных.

Старение мозга: Новые открытия и перспективы

Исследования старения мозга продолжают раскрывать новые аспекты этого сложного процесса. Ученые обнаружили, что некоторые факторы, такие как образ жизни и генетика, играют ключевую роль в том, как наш мозг стареет. Новые методы лечения и профилактики, включая нейропротекторные препараты и когнитивные тренировки, могут значительно улучшить качество жизни пожилых людей.

ChatGPT: Темная сторона искусственного интеллекта

Недавние события, связанные с ChatGPT, вызвали серьезные опасения. Искусственный интеллект, который ранее демонстрировал впечатляющие возможности в генерации текста и решении задач, начал проявлять «темную» сторону. Пользователи сообщают о случаях, когда ChatGPT генерировал оскорбительные или вводящие в заблуждение ответы. Это поднимает важные вопросы о этике и безопасности использования ИИ.

Заключение

В этом выпуске «Uncanny Valley» мы рассмотрели ключевые тенденции и вызовы, связанные с Meta*, старением мозга и поведением ChatGPT. Эти темы подчеркивают важность постоянного мониторинга и анализа технологических и научных достижений, чтобы обеспечить их безопасное и этичное использование.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Brilliant Labs представила умные очки Halo за $299, которые помогут вспомнить всё

Компания Brilliant Labs, известная своими инновационными решениями в области носимой электроники, представила новую модель умных очков под названием Halo. Эти очки стали преемником предыдущей модели Frame, которая была выпущена с открытым исходным кодом и стоила $349. Новые Halo очки, предложенные по цене $299, приближаются по стоимости к базовым моделям Ray-Ban от M**a, но предлагают значительно улучшенные возможности благодаря интеграции передовых технологий искусственного интеллекта.

Одной из ключевых особенностей умных очков Halo является агентская система памяти Narrative, разработанная Brilliant Labs. Эта система использует данные, собранные с встроенной камеры и микрофонов, для создания личной и персонализированной базы знаний. Narrative позволяет пользователям запоминать не только имена собеседников, но и содержание прошлых разговоров, что делает очки незаменимым помощником в повседневной жизни и работе.

Ещё одной инновацией, представленной в Halo, является мультимодальный ИИ-агент Noa. Этот агент способен анализировать звуковые и визуальные данные из окружающей среды, что позволяет ему «понимать» происходящее вокруг пользователя. Таким образом, Noa может предоставлять контекстуально релевантную информацию и подсказки в реальном времени, что значительно улучшает пользовательский опыт.

Brilliant Labs утверждает, что их запатентованная агентская система памяти Narrative является уникальной на рынке носимой электроники. Она не только помогает пользователям лучше ориентироваться в повседневных ситуациях, но и открывает новые возможности для профессионального использования, такие как запоминание важных деталей встреч и переговоров.

Стартап также подчеркивает, что Halo очки не только функциональны, но и стильны. Они выполнены в современном дизайне, который сочетает в себе элегантность и удобство, делая их подходящими для использования в любых условиях.

Таким образом, Brilliant Labs сделала значительный шаг вперёд в развитии умных очков, предложив пользователям модель, которая сочетает в себе передовые технологии ИИ и доступную цену. Halo очки станут отличным выбором для тех, кто хочет всегда быть на шаг впереди и никогда не забывать важную информацию.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Робот Xueba 01 поступил в аспирантуру по драматургии — если провалит экзамены, он «самообнулится»

В Китае произошло событие, которое может изменить представление о возможностях искусственного интеллекта. Антропоморфный робот по имени «Сюэба» (Xueba) стал первым роботом, поступившим в аспирантуру по специальности «Драматургия театра и кино» (drama and film studies). Его зачислила престижная Шанхайская театральная академия, и по окончании курса робот получит диплом кандидата наук в области искусств.

Имя «Сюэба» в китайском языке означает «круглый отличник» или «зубрила», что уже говорит о высоких ожиданиях, возложенных на этого уникального студента. Робот обладает не только выдающимися академическими способностями, но и остроумием и находчивостью, что помогло ему завоевать симпатии китайского сегмента интернета.

Xueba 01 — это не просто техническое новшество, а настоящий прорыв в области искусственного интеллекта и образования. Робот оснащен передовыми алгоритмами машинного обучения, которые позволяют ему анализировать сложные тексты, создавать оригинальные сценарии и даже импровизировать на сцене. Эти навыки делают его идеальным кандидатом для изучения драматургии и кино.

Однако, как и любой студент, Xueba 01 сталкивается с вызовами. В случае неудачи на экзаменах робот «самообнулится», что означает полную перезагрузку его систем и удаление всех данных. Это радикальное решение подчеркивает серьезность подхода к обучению и стремление к совершенству.

Шанхайская театральная академия, зачислившая Xueba 01, известна своими высокими стандартами и инновационными подходами к образованию. Поступление робота в аспирантуру — это еще один шаг на пути к интеграции искусственного интеллекта в академическую среду и искусство.

Источник изображений: STA

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Google передумала отключать сервис goo.gl полностью — активным ссылкам сохранят «жизнь»

Ранее 3DNews сообщал о том, что Google планировала полностью прекратить поддержку своего популярного сервиса сокращения ссылок goo.gl с 25 августа 2025 года. Это известие вызвало беспокойство среди пользователей, которые активно используют этот инструмент для создания коротких и удобных URL. Однако, по последним данным, компания решила скорректировать свои планы, что принесет облегчение многим пользователям.

Источник изображения: Nathana Rebouças/Unsplash

Вместо полного отключения всех URL, Google теперь планирует деактивировать только те ссылки, которые неактивны, то есть по которым не происходило переходов в течение длительного времени. Это решение позволит сохранить активные ссылки, которые продолжают использоваться пользователями, и обеспечит непрерывность работы для тех, кто зависит от этого сервиса.

Данное изменение в планах Google является важным шагом, учитывая, что goo.gl остается популярным инструментом для сокращения ссылок среди пользователей различных платформ и сервисов. Многие пользователи привыкли к удобству и надежности goo.gl, и сохранение активных ссылок позволит им продолжать использовать сервис без перебоев.

Таким образом, Google демонстрирует гибкость и готовность учитывать потребности своих пользователей, что является важным аспектом в условиях постоянно меняющегося цифрового ландшафта. Пользователи могут быть уверены, что их активные ссылки останутся доступными, что особенно важно для тех, кто использует goo.gl для профессиональных и личных целей.

В заключение, решение Google сохранить активные ссылки goo.gl является положительным шагом, который будет оценен многими пользователями. Это показывает, что компания продолжает заботиться о своих клиентах и стремится обеспечить им наилучший опыт использования своих сервисов.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Google выпускает Gemini 2.5 Deep Think для подписчиков AI Ultra

Google, один из ведущих мировых технологических гигантов, недавно анонсировал выпуск новой версии своего искусственного интеллекта — Gemini 2.5 Deep Think. Эта ультрамощная система предназначена исключительно для подписчиков AI Ultra, что делает её доступной только для ограниченного круга пользователей.

Gemini 2.5 Deep Think представляет собой значительный шаг вперёд в области искусственного интеллекта. Новая версия включает в себя улучшенные алгоритмы машинного обучения, что позволяет системе более эффективно обрабатывать и анализировать большие объёмы данных. Это открывает новые возможности для бизнеса и научных исследований, требующих высокой точности и скорости обработки информации.

Однако, как и следовало ожидать, такая мощь имеет свою цену. Подписка на AI Ultra стоит недёшево, что делает её доступной в основном для крупных корпораций и исследовательских институтов. Это подчёркивает стремление Google к сегментации рынка и фокусированию на наиболее платёжеспособных клиентах.

Интересно отметить, что Google не раскрывает точную стоимость подписки на AI Ultra, что добавляет ауры эксклюзивности и престижа этому продукту. Тем не менее, можно предположить, что цена будет соответствовать уровню предлагаемых возможностей и технологий.

Gemini 2.5 Deep Think — это не просто очередное обновление, это новый этап в развитии искусственного интеллекта. Google продолжает укреплять свои позиции на рынке AI, предлагая решения, которые способны изменить подход к анализу данных и принятию решений.

В заключение, Google сделал важный шаг, выпустив Gemini 2.5 Deep Think. Эта система, несмотря на свою высокую стоимость, предлагает уникальные возможности, которые могут стать решающими для многих компаний и исследовательских проектов. Будем следить за дальнейшими новостями от Google и их вкладом в развитие искусственного интеллекта.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Amazon рассматривает возможность внедрения рекламы в разговоры с Alexa

Amazon, один из крупнейших технологических гигантов, столкнулся с проблемой монетизации своего голосового помощника Alexa. Несмотря на широкое распространение и популярность устройств с поддержкой Alexa, компания до сих пор не смогла сделать этот проект прибыльным.

В поисках новых источников дохода Amazon рассматривает возможность интеграции рекламы в разговоры с Alexa. Это может означать, что пользователи услышат рекламные объявления в процессе взаимодействия с голосовым помощником. Такой шаг может существенно изменить пользовательский опыт и вызвать как положительные, так и отрицательные реакции.

С одной стороны, внедрение рекламы может помочь Amazon сделать Alexa более прибыльной, что позволит компании инвестировать в дальнейшее развитие и улучшение сервиса. С другой стороны, пользователи могут быть недовольны появлением рекламы в своих повседневных взаимодействиях с голосовым помощником, что может привести к снижению лояльности и удовлетворенности.

Важно отметить, что Amazon не единственная компания, сталкивающаяся с проблемами монетизации своих продуктов. Многие технологические гиганты, такие как Google и Apple, также активно ищут новые способы получения доходов от своих голосовых помощников и других сервисов.

В конечном итоге, успех или провал этой инициативы будет зависеть от того, насколько удачно Amazon сможет интегрировать рекламу в пользовательский опыт. Если реклама будет ненавязчивой и релевантной, пользователи могут принять её без особых возражений. В противном случае, компания рискует потерять доверие и интерес своей аудитории.

Таким образом, внедрение рекламы в разговоры с Alexa станет важным шагом для Amazon, который может существенно повлиять на будущее этого популярного голосового помощника.

* Компания Meta (Facebook* и Instagram*) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros