Основы Интернет - технологий.

Специалисты Microsoft заявили, что иностранные APT (связанные с Китаем, Россией, Ираном и Северной Кореей) используют ChatGPT для автоматизации поиска уязвимостей, разведки и выполнения различных задач по созданию вредоносного ПО. OpenAI сообщила, что уже заблокировала несколько таких аккаунтов. В свежем отчете эксперты Microsoft пишут, что тесно сотрудничают с OpenAI и изучают использование больших языковых моделей (LLM) злоумышленниками. Эти исследования показали, что сразу несколько известных APT-группировок экспериментируют с ChatGPT, чтобы получить больше информации потенциальных жертвах, оптимизировать написание вредоносных скриптов, а также анализировать публично доступные бюллетени безопасности и изучать свежие уязвимости. Хотя специалисты не обнаружили серьезных атак с использованием LLM, Microsoft утверждает, что хакерские группы из России, Китая, Северной Кореи и Ирана, используют ИИ в своих операциях. «Киберпреступные группы, правительственные хакеры и другие злоумышленники изучают и тестируют различные ИИ-технологии по мере их появления, стремясь понять их потенциальную ценность для своих операций и против средства защиты, которые может понадобиться обойти», — пишут аналитики Microsoft. К примеру, в одном случае исследователи обнаружили, что группировка Forest Blizzard (она же APT28 и FancyBear), использовала LLM для проведения исследований различных протоколов спутниковой связи и технологий получения радиолокационных изображений. Среди других приведенных в отчете примеров присутствуют: Emerald Sleet (она же Kimusky): северокорейская группировка использовала LLM для идентификации экспертов, аналитических центров и организаций, занимающихся вопросами обороны в Азиатско-Тихоокеанском регионе, изучения общедоступных уязвимостей, выполнения базовых скриптовых задач и создания контента, который можно использовать в фишинговых кампаниях. Crimson Sandstorm (она же Imperial Kitten): иранская группировка использовала LLM для создания сниппетов, связанных с разработкой приложений и сайтов, генерации фишинговых писем и исследования распространенных способов обхода обнаружения малвари. Charcoal Typhoon (она же Aquatic Panda): китайская хак-группа, которая использовала LLM для изучения различных компаний и уязвимостей, создания скриптов, контента для фишинговых кампаний и анализа методов пост-эксплуатации. Salmon Typhoon (она же Maverick Panda): китайская группировка, применявшая LLM для перевода технических документов, получения открытой информации о различных спецслужбах и региональных угрозах, устранения ошибок в коде и поиска тактик для уклонения от обнаружения. Представители OpenAI сообщают, что уже заблокировали учетные записи злоумышленников, обнаруженные в сотрудничестве с Microsoft. В компании пишут, что хакеры «стремились использовать сервисы OpenAI для запроса информации из открытых источников, переводов, поиска ошибок в коде и выполнения рутинных задач по написанию кода». При этом в OpenAI отметили, что ранее уже было установлено, что «GPT-4 предоставляет весьма ограниченные дополнительные возможности для выполнения вредоносных задач, помимо тех, которые и так были достижимы при использовании общедоступных инструментов без применения ИИ».