AI Code Hallucinations Increase the Risk of ‘Package Confusion’ Attacks

Новое исследование показало, что код, генерируемый искусственным интеллектом (AI), с большей вероятностью содержит вымышленную информацию, которая может быть использована для обмана программного обеспечения и взаимодействия с вредоносным кодом. Это открытие подчеркивает важность тщательной проверки и валидации кода, созданного с помощью AI, чтобы избежать потенциальных уязвимостей и атак.

Что такое «галлюцинации» AI?

Термин «галлюцинации» в контексте AI означает, что модель генерирует информацию, которая не соответствует реальности. В случае с кодом это может означать создание несуществующих функций, библиотек или даже целых модулей, которые на первый взгляд кажутся реальными, но на самом деле не существуют или работают не так, как ожидается.

Как это влияет на безопасность?

Одной из главных проблем, связанных с «галлюцинациями» AI, является увеличение риска так называемых «атак путем подмены пакетов» (package confusion attacks). В таких атаках злоумышленник создает вредоносный пакет с именем, похожим на настоящий, но с небольшими изменениями. Если разработчик или система автоматического обновления не заметит подмену, вредоносный код может быть установлен и выполнен, что приведет к компрометации системы.

Исследование показало, что AI-генерированный код с большей вероятностью содержит такие ошибки, что делает его более уязвимым для подобных атак. Например, AI может предложить использовать несуществующую библиотеку или пакет, что может привести к поиску и установке вредоносного аналога.

Как защитить себя?

Для минимизации рисков, связанных с «галлюцинациями» AI, разработчикам рекомендуется:

• Тщательно проверять все предложенные AI пакеты и библиотеки на их существование и безопасность.
• Использовать надежные источники для загрузки и обновления пакетов.
• Регулярно обновлять системы безопасности и антивирусное ПО.
• Проводить регулярные аудиты кода и систем для выявления потенциальных уязвимостей.

Заключение

Хотя AI продолжает развиваться и предлагать новые возможности для разработчиков, важно помнить о потенциальных рисках, связанных с его использованием. Тщательная проверка и валидация кода, генерируемого AI, являются ключевыми шагами для обеспечения безопасности и надежности программного обеспечения.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Студент колледжа получил задание использовать ИИ для переписывания регламентов DOGE

В последние годы искусственный интеллект (ИИ) стал неотъемлемой частью многих сфер нашей жизни, от медицины до розничной торговли. Теперь ИИ начинает проникать и в государственное управление. Недавно стало известно, что сотрудник DOGE получил задание использовать ИИ для предложения изменений в регламенты Департамента жилищного строительства и городского развития (HUD). Этот шаг, по словам источников, является частью более масштабной инициативы, которая вскоре охватит все правительственные структуры.

Использование ИИ для пересмотра и оптимизации регламентов может значительно повысить эффективность работы государственных органов. ИИ способен анализировать огромные объемы данных, выявлять неэффективные или устаревшие нормы и предлагать более современные и рациональные решения. Это особенно важно в условиях быстро меняющегося мира, где традиционные подходы могут оказаться недостаточно гибкими.

Департамент жилищного строительства и городского развития (HUD) является одним из ключевых ведомств, отвечающих за жилищную политику и развитие городов в США. Его регламенты касаются широкого круга вопросов, от строительства жилья до управления городскими территориями. Пересмотр этих регламентов с использованием ИИ может привести к значительным улучшениям в качестве жизни миллионов людей.

Инициатива DOGE по использованию ИИ для переписывания регламентов является частью более широкой стратегии по модернизации государственного управления. По мнению экспертов, внедрение ИИ в работу правительственных структур может не только повысить их эффективность, но и сделать их более прозрачными и подотчетными. Это особенно важно в условиях растущего недоверия к государственным институтам.

В будущем мы, вероятно, увидим еще больше примеров использования ИИ в государственном управлении. Это может включать не только пересмотр регламентов, но и автоматизацию рутинных процессов, улучшение качества предоставляемых услуг и даже разработку новых политик на основе анализа больших данных.

Таким образом, задание, полученное сотрудником DOGE, является важным шагом на пути к более современному и эффективному государственному управлению. Использование ИИ для переписывания регламентов может стать началом новой эры в работе правительственных структур, где инновации и технологии играют ключевую роль.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Intel придумала, как эффективно охлаждать 1000-Вт чипы

Компания Intel продолжает удивлять своими инновациями в области полупроводников и охлаждения. На недавнем мероприятии Foundry Direct Connect, Intel продемонстрировала экспериментальное решение для водяного охлаждения на уровне корпуса, которое обещает значительно повысить эффективность охлаждения мощных процессоров.

Революция в охлаждении

Современные процессоры становятся все более мощными и энергоемкими. Это особенно актуально для серверных и высокопроизводительных вычислительных систем, где тепловыделение может достигать 1000 Вт и более. Традиционные методы охлаждения, такие как воздушное охлаждение, часто оказываются недостаточно эффективными для таких задач.

Intel предложила решение, которое может кардинально изменить подход к охлаждению высокопроизводительных чипов. Новое решение использует водяное охлаждение на уровне корпуса, что позволяет более равномерно распределять тепло и значительно повышать общую эффективность охлаждения. Это особенно важно для дата-центров и серверных ферм, где каждый ватт энергии имеет значение.

Преимущества нового подхода

Одним из ключевых преимуществ нового решения от Intel является его способность справляться с высокими тепловыми нагрузками. Водяное охлаждение позволяет значительно снизить температуру процессора, что не только продлевает его срок службы, но и повышает стабильность работы системы в целом.

Кроме того, использование водяного охлаждения на уровне корпуса позволяет сократить необходимость в дополнительных системах охлаждения, таких как вентиляторы и тепловые трубки. Это не только упрощает конструкцию системы, но и снижает общие эксплуатационные расходы.

Будущее технологии

Intel планирует продолжать развивать свое решение для водяного охлаждения, интегрируя его в будущие поколения процессоров. Компания уверена, что такие инновации помогут справиться с растущими требованиями к производительности и энергоэффективности в современных вычислительных системах.

Источник изображения: Future/Tom’s Hardware

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Дело техники: «Википедия» поручит генеративному ИИ рутину, чтобы не испортить труд людей

«Википедия», одна из крупнейших интернет-энциклопедий в мире, недавно объявила о новой стратегии использования искусственного интеллекта (ИИ) в своей работе. Однако, в отличие от многих других компаний, которые стремятся полностью автоматизировать процессы, «Википедия» подчеркнула, что ИИ не заменит живых редакторов. Вместо этого, генеративный ИИ станет их помощником, выполняя рутинные задачи и освобождая человеческий труд для более творческих и сложных задач.

Источник изображения: wikipedia.org, AI

С момента своего запуска в 2001 году «Википедия» стала неотъемлемой частью нашей цифровой жизни. Энциклопедия, созданная и поддерживаемая добровольцами со всего мира, насчитывает миллионы статей на десятках языков. Однако, с ростом объема информации и увеличением числа пользователей, возникла необходимость в более эффективных инструментах для поддержания высокого качества контента.

ИИ, который будет внедрен в «Википедию», предназначен для выполнения рутинных задач, таких как проверка орфографии, грамматики, а также автоматическое обновление статистических данных и фактов. Это позволит редакторам сосредоточиться на более сложных аспектах создания и редактирования статей, таких как проверка фактов, улучшение структуры и добавление новой информации.

«Мы видим в ИИ мощный инструмент, который может значительно облегчить жизнь наших редакторов, — отметил представитель «Википедии». — Однако, мы твердо убеждены, что человеческий фактор останется ключевым в обеспечении качества и достоверности нашей энциклопедии».

С внедрением ИИ «Википедия» надеется не только улучшить качество контента, но и привлечь новых редакторов, которые могут быть отпугнуты сложностью и объемом работы. Автоматизация рутинных задач сделает процесс редактирования более доступным и привлекательным для широкой аудитории.

В заключение, новая стратегия «Википедии» по использованию ИИ демонстрирует, как современные технологии могут сосуществовать с человеческим трудом, не заменяя его, а дополняя и улучшая. Это важный шаг вперед для одного из самых популярных и доверенных источников информации в мире.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

ИИ с помощью мощных GPU научился взламывать пароли быстрее, чем их успевают менять

Современные технологии не только облегчают нашу жизнь, но и создают новые вызовы для кибербезопасности. Одним из таких вызовов стало использование искусственного интеллекта (ИИ) и мощных видеокарт (GPU) для взлома паролей. Недавнее исследование, о котором сообщил HotHardware, показало, что хакеры могут взламывать даже сложные пароли за считанные дни, а в некоторых случаях — мгновенно.

Традиционные методы защиты, основанные на комбинациях символов, больше не обеспечивают надёжной защиты. Современные GPU, используемые в сочетании с ИИ, могут обрабатывать миллионы комбинаций в секунду, значительно сокращая время, необходимое для взлома пароля. Это ставит под угрозу как личные, так и корпоративные данные.

Исследование также выявило, что наиболее уязвимыми оказываются пароли, состоящие из простых слов и цифр. Даже добавление специальных символов и использование верхнего регистра не всегда спасает ситуацию. Хакеры используют машинное обучение для анализа паттернов и предсказания возможных комбинаций, что делает их атаки ещё более эффективными.

В условиях растущей угрозы важно пересмотреть подходы к созданию и хранению паролей. Эксперты рекомендуют использовать многофакторную аутентификацию (MFA), которая добавляет дополнительный уровень защиты. Также стоит рассмотреть возможность использования менеджеров паролей, которые генерируют и хранят сложные пароли, минимизируя риск их компрометации.

В заключение, современные технологии требуют от нас повышенного внимания к вопросам кибербезопасности. Использование ИИ и мощных GPU для взлома паролей — это лишь один из многих вызовов, с которыми мы сталкиваемся в цифровом мире. Важно быть в курсе последних тенденций и применять лучшие практики для защиты своих данных.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Первая поправка защищает не только человеческую речь, утверждает создатель чат-ботов

В современном мире, где искусственный интеллект (ИИ) становится все более интегрированным в нашу повседневную жизнь, возникает вопрос: должна ли речь, генерируемая чат-ботами, быть защищена Первой поправкой к Конституции США? Этот вопрос подняла компания Character.AI, утверждая, что федеральные власти могут начать цензурировать чат-боты, если их «речь» не будет защищена.

Character.AI, одна из ведущих компаний в области разработки чат-ботов, аргументирует свою позицию тем, что чат-боты становятся все более сложными и способными к генерации текста, который может быть интерпретирован как «речь». Если эта «речь» не будет защищена Первой поправкой, федеральные власти могут получить право цензурировать или ограничивать выражения, генерируемые ИИ.

Первая поправка к Конституции США гарантирует свободу слова, но традиционно она применялась к людям. С развитием технологий и появлением ИИ, способного генерировать текст, возникает необходимость переосмыслить этот принцип. Character.AI утверждает, что защита «речи» чат-ботов важна для свободного обмена информацией и идеями, что является основой демократического общества.

В мире, где ИИ все чаще используется для создания контента, включая новости, развлечения и даже юридические документы, вопрос о защите такой «речи» становится все более актуальным. Character.AI подчеркивает, что без защиты Первой поправкой, ИИ может столкнуться с необоснованными ограничениями, что замедлит его развитие и внедрение в различные сферы жизни.

Этот вопрос также поднимает более широкие этические и правовые вопросы о том, как общество должно регулировать ИИ. С одной стороны, защита «речи» чат

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Миллионы устройств Apple AirPlay уязвимы для взлома через Wi-Fi

Недавно выявленная коллекция уязвимостей, известная как AirBorne, позволяет хакерам запускать свой код на устройствах, поддерживающих технологию AirPlay от Apple. Это открывает двери для потенциальных атак на миллионы устройств по всему миру.

Что такое AirPlay и почему это важно?

AirPlay — это технология, разработанная Apple, которая позволяет беспроводную передачу аудио и видео между устройствами. С ее помощью пользователи могут легко транслировать контент с iPhone, iPad или Mac на телевизоры, колонки и другие совместимые устройства. Однако, как показали последние исследования, эта удобная технология может стать уязвимым местом для кибератак.

Уязвимости AirBorne: что известно?

Коллекция уязвимостей AirBorne включает в себя несколько ошибок, которые позволяют злоумышленникам удаленно запускать свой код на устройствах, поддерживающих AirPlay. Это означает, что хакеры могут получить контроль над устройством, перехватывать данные и даже использовать его для дальнейших атак на другие устройства в сети.

Как защититься от уязвимостей AirBorne?

Для защиты своих устройств от потенциальных атак через AirBorne, пользователи могут предпринять несколько шагов:

• Обновите программное обеспечение: Убедитесь, что все ваши устройства обновлены до последней версии программного обеспечения. Apple регулярно выпускает обновления безопасности, которые могут исправить известные уязвимости.
• Используйте надежные пароли: Настройте сложные пароли для доступа к вашей Wi-Fi сети и устройствам, чтобы затруднить доступ злоумышленникам.
• Отключите AirPlay, когда он не используется: Если вы не используете AirPlay, отключите его в настройках устройства, чтобы минимизировать риски.

Заключение

Уязвимости AirBorne представляют серьезную угрозу для миллионов пользователей устройств, поддерживающих AirPlay. Однако, следуя простым рекомендациям по безопасности, можно значительно снизить риск стать жертвой кибератаки. Apple, вероятно, выпустит обновления для исправления этих уязвимостей, поэтому важно регулярно проверять наличие новых версий программного обеспечения.

* Компания Meta (Facebook* и Instagram*) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Windows RDP позволяет входить в систему с использованием аннулированных паролей. Microsoft считает это нормальным.

Исследователи в области кибербезопасности обнаружили тревожную особенность в Windows Remote Desktop Protocol (RDP), которая позволяет пользователям входить в систему с использованием аннулированных паролей. Эта уязвимость, по мнению экспертов, фактически превращает RDP в постоянный бэкдор, представляющий серьезную угрозу для безопасности.

RDP — это протокол, который позволяет пользователям удаленно подключаться к своим компьютерам и серверам. Он широко используется в корпоративной среде для управления удаленными системами и обеспечения доступа к ресурсам. Однако, как выяснили исследователи, даже после аннулирования пароля пользователя, RDP продолжает принимать этот пароль для входа в систему.

Эта проблема была поднята в контексте общей безопасности Windows-систем. Исследователи утверждают, что такая поведение системы создает постоянный бэкдор, который может быть использован злоумышленниками для несанкционированного доступа к системам. В условиях, когда киберугрозы становятся все более сложными и изощренными, подобные уязвимости представляют собой серьезную проблему.

Однако, несмотря на предупреждения исследователей, Microsoft не спешит признавать эту проблему критической. Компания заявила, что подобное поведение является ожидаемым и не представляет значительной угрозы для безопасности. По мнению Microsoft, администраторы систем должны использовать дополнительные меры безопасности, такие как двухфакторная аутентификация и регулярное обновление паролей, чтобы минимизировать риски.

Тем не менее, эксперты в области кибербезопасности считают, что такой подход недостаточен. Они настаивают на том, что уязвимость должна быть устранена на уровне протокола, чтобы исключить возможность использования аннулированных паролей. В противном случае, риск несанкционированного доступа остается высоким, особенно в условиях, когда злоумышленники активно ищут новые способы проникновения в корпоративные сети.

В заключение, проблема с Windows RDP подчеркивает важность постоянного мониторинга и обновления систем безопасности. Администраторы должны быть в курсе потенциальных уязвимостей и принимать меры для их устранения, даже если производители программного обеспечения не считают их критическими. Только так можно обеспечить надежную защиту данных и систем в условиях постоянно меняющейся киберугрозы.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Сундар Пичаи утверждает, что требования Минюста фактически приведут к отделению Google Search

В ходе антимонопольного судебного разбирательства против Google, генеральный директор компании Сундар Пичаи дал показания, которые могут иметь далеко идущие последствия для будущего поискового гиганта. Пичаи заявил, что требования Министерства юстиции США (DOJ) фактически приведут к отделению Google Search от остальной части компании.

Антимонопольное расследование против Google началось в 2020 году, когда Минюст и несколько штатов США подали иск, обвиняя компанию в злоупотреблении своим доминирующим положением на рынке поисковых систем. Основные претензии касаются того, что Google использует свое доминирующее положение для подавления конкуренции и закрепления своего лидерства.

Сундар Пичаи, который возглавляет Google с 2015 года, заявил, что требования Минюста по реструктуризации компании и изменению ее бизнес-практик фактически приведут к отделению Google Search. Это может иметь серьезные последствия не только для самой компании, но и для миллионов пользователей и рекламодателей, которые полагаются на ее услуги.

Google Search является флагманским продуктом компании и основным источником ее доходов. По данным на 2021 год, Google контролирует более 90% мирового рынка поисковых систем. Отделение Google Search может привести к значительным изменениям в структуре компании и ее бизнес-модели.

Пичаи также подчеркнул, что Google постоянно инвестирует в улучшение своих поисковых алгоритмов и пользовательского опыта, что способствует укреплению ее лидерства на рынке. Он отметил, что компания всегда стремилась к инновациям и конкуренции, что приносит пользу потребителям.

Судебное разбирательство продолжается, и его исход может иметь значительное влияние на будущее не только Google, но и на всю индустрию технологий. Решение суда может установить прецедент для других крупных технологических компаний, которые также сталкиваются с антимонопольными расследованиями.

В заключение, Сундар Пичаи заявил, что Google продолжит сотрудничать с регуляторами и работать над улучшением своих продуктов и услуг, чтобы они соответствовали законодательству и приносили пользу пользователям.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros

Дрон «Летающая Белка» демонстрирует впечатляющую манёвренность на 13% точнее обычных благодаря складным крыльям

Инженеры представили новую разработку в области дронов — высокоманевренную модель, вдохновлённую летающей белкой. Устройство способно выполнять сложные фигуры пилотажа и быстро реагировать на изменения обстановки, что открывает новые возможности для применения в таких областях, как инспекция труднодоступных объектов, спасательные операции и автономная навигация.

Ключевой особенностью дрона являются складные крылья из силикона, которые генерируют дополнительное сопротивление воздуху. Это позволяет значительно улучшить управляемость и повысить точность отслеживания заданного маршрута. В отличие от традиционных дронов, возможности которых ограничены мощностью двигателей, «Летающая Белка» использует комбинацию тяги винтов и сопротивления крыльев для создания резких изменений в вертикальной силе, недоступных для обычных моделей.

Источник: Dohyeon Lee, Jun-Gill Kang, Soohee Han

Принцип работы новой системы заключается в координированном управлении винтами и крыльями. Специально разработанный алгоритм, получивший название Thrust-Wing Coordination Control (TWCC), определяет оптимальный момент для складывания или разворачивания крыльев, максимизируя эффективность и стабильность полёта. Для точного моделирования аэродинамики складных крыльев использовалась нейронная сеть, дополненная физическими принципами. Эта модель была обучена на реальных данных полётов и учитывает особенности формы крыла, угол и скорость движения дрона.

В ходе испытаний было установлено, что «Летающая Белка» демонстрирует на 13,1% лучшие показатели точности отслеживания траектории по сравнению с традиционным бескрылым дроном. Эксперименты проводились как в лабораторных условиях, так и на открытом воздухе, в том числе с имитацией препятствий. Дрон успешно справляется с задачами облета препятствий на высокой скорости, что особенно важно для работы в сложных и динамичных условиях.

Разработчики отмечают, что представленная технология является значительным шагом вперёд в области управления дронами, позволяя преодолеть ограничения, связанные с физическими свойствами летательных аппаратов. В будущем подобная система управления может найти применение в более широком спектре приложений, включая создание автономных автомобилей, способных быстро и безопасно маневрировать в плотном городском трафике, или разработку «умных очков» с улучшенной системой стабилизации изображения.

Подпишитесь на новости в телеграм: https://t.me/itnewsros