Смысловая капча. Применение семантического анализатора Real AI для реализации капчи
В данной статье рассказываем о новом демо-примере по работе со смыслом текста, с использованием нашей технологии Real AI – капче, требующей понимания смысла текста. Чтобы успешно решить капчу необходимо понять полученную фразу и из представленных изображений выбрать указанные во фразе объекты....
Канадский конкурент OpenAI привлек $270 млн от Nvidia и Oracle
Канадский стартап Cohere, который разрабатывает технологии в сфере искусственного интеллекта, привлек $270 млн инвестиций. Компания провела раунд C, в котором приняла участие группа институциональных и стратегических инвесторов, в числе которых американский производитель микросхем и видеокарт...
Расщепляем AI Test Kitchen на молекулы и подключаемся к Imagen
Одним прекрасным днём я решил посмотреть, какие запросы отправляет мобильное Google-приложение AI Test Kitchen и наткнулся на пока-что рабочий API закрытой нейросети для генерации изображений Imagen. Делюсь тем, как я это обнаружил, что еще интересного нашел, и ссылкой на GitHub-репозиторий...
Стоимость Nvidia приблизилась к $1 трлн на фоне бума ИИ
Капитализация Nvidia впервые приблизилась к отметке в один триллион долларов. Это произошло на фоне все усиливающегося внимания к генеративным ИИ, С октября стоимость Nvidia выросла примерно на 200%, намного опередив любого другого участника ндекса S&P 500. Только четыре другие американские...
Возможность использования Chat GPT в тестировании на проникновение и в кибербезе
Уже стало традицией, что при посещении различных мероприятий я стараюсь взять интервью у некоторых спикеров. Не всегда получается быстро их опубликовать, процесс написания и согласования зачастую затягивается. И вот я побывал на конференции PHD 2023. В этом году было, на мой взгляд, больше...
Поиск аномалий при запусках процессов Windows с помощью рекомендательных систем
В SIEM-системах есть множество написанных экспертами правил, которые помогут отследить подозрительное поведение. Однако существует много сценариев атак, которые нельзя описать строгими правилами, а значит, эффективно отслеживать. Учитывая объем данных, обрабатываемый SIEM-системой ежедневно, а...
Как технология распознавания лиц помогает в борьбе с финансовыми мошенничествами?
Можно ли обмануть распознавание лиц? Сколько стоит технология и ее эксплуатация? Как защитить свои персональные данные? Готовы ли банки к атакам дипфейками? Читать далее...
Атаки на чат-ботов и языковые модели. И как от них защититься
Всем привет! Я – Артем Семенов, занимаюсь тестированием на проникновение и работаю в RTM Group. В этой статье я расскажу об атаках на чат-боты и языковые модели, а также о том, как от них защититься. Чат-боты сегодня буквально повсюду. Наверняка даже ваша бабушка нет-нет, да и вставит в разговор...
Можно ли решить проблему prompt injection?
Недавно я участвовал в вебинаре, посвящённом атаке prompt injection («инъецирование промта»). Вебинар организовала LangChain, в нём участвовали Виллем Пиенаар, Кодзин Осиба (Robust Intelligence), Джонатан Коэн и Кристофер Парисьен (Nvidia Research), а проводил его Харрисон Чейз. Полную часовую...
Apple запретила сотрудникам использовать ChatGPT и другие подобные инструменты
Apple ограничила использование ChatGPT и других внешних инструментов искусственного интеллекта для своих сотрудников, поскольку Apple разрабатывает аналогичную технологию, сообщает Wall Street Journal. Apple обеспокоена утечкой конфиденциальных данных сотрудниками, использующими программы...
Какие угрозы несет в себе развитие искусственного интеллекта?
Искусственный интеллект (далее ИИ), все больше проникает в различные сферы нашей жизни. Есть мнение, что развитие ИИ может привести к четвертой промышленной революции, что в свою очередь может изменить жизнь до неузнаваемости. Последнее время, в информационном пространстве все больше появляется...
Применяем «колдовство» prompt injection против Гендальфа
На днях набрёл на интересный проект Gandalf, построенный как платформа для тренировки Prompt Injection для обходов защитных механизмов поверх ChatGPT в игровой форме. Задача — выведать пароли, которые придумал Гендальф. Для этого нужно придумывать нестандартные способы выманить секреты с помощью...
Поведенческий анализ в задаче обнаружения вредоносных программ
Вредоносное ПО уже долгое время является одной из основных угроз в области информационной безопасности. Подходы к анализу и защите от такого рода атак бывают разные. В общем случае разделяют два подхода: статический и динамический анализ. Часто подходы в поведенческом анализе основаны на наборах...
[Перевод] Стенгазета на Rust с E-Ink и ChatGPT
Самодельная автоматически обновляющаяся газета на E-Ink с использованием Rust и ChatGPT — как вам такой DIY? Читать далее...
Маск подтвердил планы создать альтернативу ChatGPT
Миллиардер Илон Маск намерен создать аналог чат-бота с искусственным интеллектом (ИИ) ChatGPT. В интервью Такеру Карлсону на канале Fox News в понедельник Маск подтвердил, что у него есть планы создать «третий вариант» в гонке искусственного интеллекта между OpenAI, поддерживаемым корпорацией...
BlackMamba или как ChatGPT пишет вредоносы
Скорее всего не для кого уже не новость, что ChatGPT от OpenAI способен не только генерировать статьи, идеи, писать код вместо разработчика, но также писать всякого рода вирусы и прочие вредоносные программы. Специалисты кибербезопасности из компании Hyas решили продемонстрировать, на что способно...
Администрация президента США начала консультации по поводу введения мер контроля над ИИ
Администрация Джозефа Байдена заявила, что запрашивает комментарии общественности о потенциальных мерах контроля для систем искусственного интеллекта, поскольку возникают вопросы о его влиянии на национальную безопасность и образование. ChatGPT стала самым быстрорастущим потребительским приложением...
GPT-3 нашёл 213 Security Vulnerabilities… Или не нашёл
Этот текст является развёрнутым комментарием к статье "Я нашёл 213 уязвимостей безопасности в кодовой базе при помощи GPT-3". Читать дальше →...