1. MN NEWS
  2. Экономика
  3. Исследование: ИИ-генераторы кода создают уязвимости в системе безопасности

MN NEWSЭкономикаИсследование: ИИ-генераторы кода создают уязвимости в системе безопасности

Исследование: ИИ-генераторы кода создают уязвимости в системе безопасности

Экономика29.12.2022 в 14:14ПрослушатьОстановить

Исследование: ИИ-генераторы кода создают уязвимости в системе безопасностиИсследование: ИИ-генераторы кода создают уязвимости в системе безопасностиГруппа исследователей из Стэнфорда заявила, что использование систем генерирования кода на базе ИИ с большей вероятностью создает уязвимости безопасности. Об этом пишет TechCrunch.Основное внимание ученые удели...

Группа исследователей из Стэнфорда заявила, что использование систем генерирования кода на базе ИИ с большей вероятностью создает уязвимости безопасности. Об этом пишет TechCrunch.

Основное внимание ученые уделили системе Codex, представленной компанией OpenAI в августе 2021 года. Они привлекли 47 разработчиков разного уровня квалификации для решения проблем с безопасностью на нескольких языках программирования, включая Python, JavaScript и C.

Согласно исследованию, использовавшие Codex участники эксперимента чаще писали неправильный и «небезопасный» код по сравнению с контрольной группой. Также применявшие ИИ программисты чаще выражали уверенность в своих решениях.

Эксперты считают, что разработчики без соответствующих знаний в области кибербезопасности должны осторожно использовать подобные инструменты.

«Те, кто использует их для ускорения задач, в которых они уже имеют навыки, должны тщательно перепроверять результаты и контекст», — добавили ученые.

Соавторка исследования Мегха Шривастава подчеркнула, что результаты не являются осуждением Codex и других систем генерации кода. По ее словам, такие инструменты полезны для задач, не связанных с высоким риском.

Ученые предложили несколько способов увеличить безопасность систем ИИ-генерации, включая механизм «уточнения» подсказок. По их словам, это похоже на работу супервайзера, который пересматривает черновики кода.

Также они предложили разработчикам криптографических библиотек обеспечить безопасность настроек по умолчанию, поскольку текущие параметры ИИ-систем не всегда свободны от эксплойтов.

«Наша цель — сделать более широкое заявление об использовании моделей генерации кода. Необходимо провести дополнительную работу по изучению этих проблем и разработке методов их решения», — заявил соавтор исследования Нил Перри.

По его словам, введение уязвимостей в системе безопасности — не единственный недостаток систем ИИ-генерирования кода. Он упомянул проблему, связанную с возможными нарушениями авторских прав из-за использования общедоступного кода для обучения Codex.

«[По этим причинам] мы в значительной степени выражаем осторожность в отношении использования этих инструментов для замены обучения начинающих разработчиков методам надежного кодирования», — добавила Шривастава.

Напомним, в мае один из разработчиков обнаружил, что Copilot «слил» закрытые ключи от криптокошельков.

В октябре группа программистов объявила о подаче коллективного иска против Microsoft за обучение ИИ с помощью их кода.

В июле 2021 года Copilot заподозрили в копировании защищенных авторским правом фрагментов свободного ПО.

Источник: ForkLog

Поделиться

Читайте также:

СМИ узнали о сокращениях в Matrixport Джихана Ву

Экономика27.01.2023 в 16:56Читать новость

Инженер Amazon научил чат-бота проводить «спиритические сеансы»

Экономика20.01.2023 в 15:42Читать новость

Ученые создали киборга с ИИ-обонянием

Экономика18.01.2023 в 19:56Читать новость

Wyre отменил ограничение на вывод средств

Экономика13.01.2023 в 13:00Читать новость

ИИ три месяца писал статьи для популярного интернет-издания

Экономика12.01.2023 в 17:28Читать новость

Журналисты узнали о массовых сокращениях персонала в Osprey Funds
Журналисты узнали о массовых сокращениях персонала в Osprey Funds

Экономика10.01.2023 в 15:00Читать новость

Журналисты узнали о расследовании деятельности DCG властями США
Журналисты узнали о расследовании деятельности DCG властями США

Экономика10.01.2023 в 14:56Читать новость

СМИ: в США расследуют связи хедж-фондов с Binance
СМИ: в США расследуют связи хедж-фондов с Binance

Экономика10.01.2023 в 14:56Читать новость

Банк России представил две модели трансграничных расчетов для цифрового рубля
Банк России представил две модели трансграничных расчетов для цифрового рубля

Экономика10.01.2023 в 14:56Читать новость

В Гонконге подтвердили курс на развитие криптоиндустрии
В Гонконге подтвердили курс на развитие криптоиндустрии

Экономика10.01.2023 в 14:56Читать новость

Бывшее руководство FTX уличили в трате $40 млн на роскошные отели и еду
Бывшее руководство FTX уличили в трате $40 млн на роскошные отели и еду

Экономика10.01.2023 в 14:56Читать новость

Брат основателя Helix признал вину в краже конфискованных 712 BTC
Брат основателя Helix признал вину в краже конфискованных 712 BTC

Экономика10.01.2023 в 14:56Читать новость

Отчет: ущерб криптоиндустрии от взломов в 2022 году вырос до $3,6 млрд
Отчет: ущерб криптоиндустрии от взломов в 2022 году вырос до $3,6 млрд

Экономика10.01.2023 в 14:56Читать новость

В Германии полиция преследовала Tesla со спящим водителем
В Германии полиция преследовала Tesla со спящим водителем

Экономика10.01.2023 в 14:56Читать новость

Темпы установки биткоин-ATM рухнули во второй половине 2022 года
Темпы установки биткоин-ATM рухнули во второй половине 2022 года

Экономика10.01.2023 в 14:56Читать новость

HIVE Blockchain за год добыла 3146 BTC
HIVE Blockchain за год добыла 3146 BTC

Экономика10.01.2023 в 14:56Читать новость

В Voyager назвали лицемерием критику сделки с Binance.US
В Voyager назвали лицемерием критику сделки с Binance.US

Экономика10.01.2023 в 14:56Читать новость

Wyre ограничит вывод средств
Wyre ограничит вывод средств

Экономика10.01.2023 в 14:56Читать новость

СМИ: южнокорейский филиал Huobi дистанцируется от материнской компании
СМИ: южнокорейский филиал Huobi дистанцируется от материнской компании

Экономика10.01.2023 в 14:56Читать новость

Инвесторы в криптофонды в начале года вернулись к продажам
Инвесторы в криптофонды в начале года вернулись к продажам

Экономика10.01.2023 в 14:56Читать новость