Защита LLM в разработке чат-ботов в корпоративной среде: как избежать утечек данных и других угроз

Как компания, которая внедряет прикладные решения, мы хотим знать, насколько они безопасны. Расскажу про основные риски, связанные с использованием LLM в корпоративной среде, и способы от них защититься. Если вы хотите узнать больше об уязвимостях и техниках защиты LLM — можно ознакомиться с моим...

Все блоги / Про интернет

Как защитить бизнес при внедрении LLM (часть 1)

Новый мир с LLM — прекрасен! Нам, инженерам, он открывает много перспектив. А тем, кто его незаконно использует — предоставляет новые страшные инструменты. Как же защитить свой бизнес от угроз нейросетей? Меня зовут Евгений Кокуйкин и я — руководитель AI продуктов компании Raft. Занимаюсь...

Все блоги / Про интернет

Ноутбук без экрана, нейросеть в кармане и голографическая рамка — лучшие гаджеты для работы и творчества с CES-2024

Устройства, которые могут изменить подход к работе, стать полезными инструментами на каждый день или просто классными гаджетами на столе. Читать далее...

Все блоги / Нетбуки и Планшеты

Самые необычные нейронаушники с выставки CES 2024

Нейротехнологии проникают в нашу жизнь со стремительной скоростью, вплетаясь в самые обычные вещи и предметы нашего повседневного использования. Например, нейронаушники становятся все более распространенными, объединяя функциональность обычных наушников с возможностью взаимодействия с нашими...

Все блоги / Нетбуки и Планшеты

Постмодерн в криптографии или как в книгах плодятся симулякры третьего порядка

Данная статья не вышла бы на свет и вовсе, если бы у меня не существовало такого фетиша как скупки книг по криптографии, за счёт которого я откопал ещё недавно выставленную книгу - "Криптография. Основы практического шифрования и криптографии". Книга описывает лишь основы криптографии, но можно ли...

Все блоги / Про интернет

Взламывая ChatGPT: как мы участвовали в хакатоне по атакам на ИИ

Мы поучаствовали в хакатоне от LearnPrompting, посвященном атакам на ChatGPT, и заняли восьмое место среди около четырехсот команд. Если вам интересно, зачем мы провели несколько ночей за взломом чат-бота, как нам пригодился опыт борьбы с фишингом и умеют ли нейросети хранить секреты, — добро...

Все блоги / Про интернет

Расщепляем AI Test Kitchen на молекулы и подключаемся к Imagen

Одним прекрасным днём я решил посмотреть, какие запросы отправляет мобильное Google-приложение AI Test Kitchen и наткнулся на пока-что рабочий API закрытой нейросети для генерации изображений Imagen. Делюсь тем, как я это обнаружил, что еще интересного нашел, и ссылкой на GitHub-репозиторий...

Все блоги / Про интернет

[Перевод] Стенгазета на Rust с E-Ink и ChatGPT

Самодельная автоматически обновляющаяся газета на E-Ink с использованием Rust и ChatGPT — как вам такой DIY? Читать далее...

Все блоги / Нетбуки и Планшеты

Не шути с ChatGPT. Как хайповая нейросеть может применяться в кибератаках и изменить ИБ

Пожалуй, все уже набаловались с ChatGPT, так что пришла пора поговорить о ней максимально серьезно. Технологии искусственного интеллекта влияют на все сферы нашей жизни, включая кибербезопасность – а значит и та самая нейросеть может как применяться для целевых атак и компрометации, так и помогать...

Все блоги / Про интернет

Data Fusion Contest 2023. Для опыта и не только… Соревнование от ВТБ с призовым фондом в 2 млн рублей

Я, как новичок, наблюдаю за всем происходящим вокруг, и замечаю, что тренд на IT-специальности огромный. Множество курсов заманивают обещаниями о работе с высокой зарплатой, но спустя полгода после окончания курсов вы понимаете, что на "рынке" полно таких же как вы без опыта, а всем нужны...

Все блоги / Про интернет

«Хакер»: Как мы с DALL-E 2 делали картинки к статьям

DALL-E 2 — нейросеть, которая рисует картинки по текстовому запросу. Гулявшие в этом году примеры работы с ней просто поражают: иногда она рисует, как настоящий художник, и еще и предлагает варианты на выбор! С августа этого года мы периодически использовали DALL-E 2, чтобы генерировать заглавные...

Все блоги / Про интернет

Выход из плоскости. Тактильная графика и закоулки интеллекта

Уже очень давно я писал на Хабре статью о кипу – узелковом письме древних инков. В этой статье я упоминал, что Луи Брайлю удалось создать шрифт для слепых из-за стечения обстоятельств: Луи не был слеп от рождения, а утратил зрение, поранив себе глаз грязным шорным ножом, с которым неосторожно играл...

Все блоги / Нетбуки и Планшеты

CryptoNN: Training Neural Networks over encrypted Data. Совмещаем data privacy и нейронные сети

Обзор метода CryptoNN, который позволяет обучать нейронные сети на зашифрованных данных и сохранять приватность пользователей. Читать далее...

Все блоги / Про интернет

2500 дней создания AI без использования нейронных сетей или покерный бот, который дороже $50к

Давно хотел написать статью про своё хобби, которое стало нечто большим для меня. Я закончил математический факультет(ТвГУ) в 2012г. В период учёбы я профессионально играл в покер, как вживую, так и онлайн(yura_$198802,основной аккаунт PS). Не могу сказать, что был супер успешен, но для студента...

Все блоги / Про интернет

Защита моделей нейронных сетей при помощи аппаратных ключей SenseLock

Нейронные сети помогают нам решать различные задачи в сфере AI и компьютерного зрения. Например, детектирование, классификация, сегментация, распознавание объектов и многие другие. Во многих случаях используются готовые предобученные модели, которые дообучаются по собственным данным разработчика...

Все блоги / Про интернет

В полуфинале конкурса $10M ANA Avatar XPRIZE единственной командой из Восточной Европы стала Dragon Tree Labs

Dragon Tree Labs единственная российская команда, которая вышла в полуфинал международного конкурса 10$ M ANA Avatar XPRIZE. Участники соревнования создают робота-аватара, способного обеспечить телеприсутствие человека на расстоянии в режиме реального времени. Соревнование организовано фондом...

Все блоги / Нетбуки и Планшеты

Security Week 46: подсматривание паролей в телеконференциях

Исследователи из Техасского университета в Сан-Антонио предложили необычный способ кейлоггинга через анализ движений головы и плеч на видеозаписи (новость, исследование в PDF). С довольно широкими допущениями сценарий выглядит так: подключаемся к видеоконференции, записываем жертву на видео. Если...

Все блоги / Про интернет

Новости недели: Raspberry Pi 4 в продаже, интернет на ЕГЭ, Роскомнадзор и VPN-сервисы, нейросеть раздевает людей

В этом выпуске читайте: Raspberry Pi 4 уже можно купить; на ЕГЭ не будут запрещать пользоваться Интернетом; в России разработан процессор для нейросетей; Роскомнадзор не собирается блокировать непослушные VPN-сервисы; нейросеть научилась раздевать людей на фотографиях; аппаратный эмулятор Commodore...

Все блоги / Нетбуки и Планшеты

Назад