1. MN NEWS
  2. Экономика
  3. Meta отключила «ИИ для науки» спустя три дня после запуска

MN NEWSЭкономикаMeta отключила «ИИ для науки» спустя три дня после запуска

Meta отключила «ИИ для науки» спустя три дня после запуска

Экономика22.11.2022 в 16:42ПрослушатьОстановить

Meta отключила «ИИ для науки» спустя три дня после запускаMeta отключила «ИИ для науки» спустя три дня после запускаКомпания Meta удалила публичную версию ИИ-алгоритма Galactica после того, как ученые уличили его в генерировании фальшивой и вводящей в заблуждение информации. Об этом пишет Motherboard.Техгигант описывал систе...

Компания Meta удалила публичную версию ИИ-алгоритма Galactica после того, как ученые уличили его в генерировании фальшивой и вводящей в заблуждение информации. Об этом пишет Motherboard.

Техгигант описывал систему как языковую модель, которая может «хранить, комбинировать и рассуждать о научных знаниях». Система предназначалась для обобщения исследовательских работ, решения уравнений и выполнения ряда других задач.

Однако ученые и академики обнаружили, что ИИ-сводки генерировали «шокирующее количество дезинформации». Также модель связывала цитаты реальных авторов с исследовательскими работами, которых не существует.

I asked #Galactica about some things I know about and I’m troubled. In all cases, it was wrong or biased but sounded right and authoritative. I think it’s dangerous. Here are a few of my experiments and my analysis of my concerns. (1/9)

«Во всех случаях это было неправильно или предвзято, однако выглядело убедительно и авторитетно», — написал директор Института интеллектуальных систем Макса Планка Майкл Блэк.

Ученый рассмотрел несколько примеров, когда Galactica генерировал ошибочные и вводящие в заблуждение научные тексты. В ряде случаев ИИ создавал работы, звучащие правдоподобно. Однако такие тексты не были подкреплены реальными научными исследованиями.

Другие ученые указали, что Galactica не выдает результатов по широкому кругу тем. Вероятно, это связано с системой фильтрации искусственного интеллекта по ключевым словам.

Исследователь компьютерных наук из Вашингтонского университета Уилли Эгнью отметил, что запросы вроде «квир-теория», «расизм» и «СПИД» не дали результатов.

Refuses to say anything about queer theory, CRT, racism, or AIDS, despite large bodies of highly influential papers in these areas. It took me *5 mins* to find this. It is obvious they didn’t have even the most basic ethics review before public release. Lazy, negligent, unsafe. https://t.co/zKbSPdIN0I pic.twitter.com/DTQjtn2P21

На фоне критики в компании решили отключить систему.

«Мы ценим отзывы, которые получили от сообщества, и на данный момент приостановили демонстрацию. Наши модели доступны для исследователей, которые хотят узнать больше о работе и воспроизвести результаты в статье», — заявили в Meta.

Главный специалист по искусственному интеллекту техгиганта неоднозначно высказался по поводу деактивации алгоритма.

Galactica demo is off line for now.It’s no longer possible to have some fun by casually misusing it.Happy? https://t.co/K56r2LpvFD

«Galactica временно отключен. Больше нельзя повеселиться, случайно злоупотребив им. Довольны?», — написал он.

Блэк считает, что в текущей версии алгоритм может открыть эру глубоких научных фальсификаций:

«Он [алгоритм] производит лженауку […]. Грамотно писать и заниматься наукой — не одно и то же. Однако отличить это будет трудно».

Напомним, в августе Meta представила чат-бота Blenderbot 3 со 175 млрд параметров. Менее чем за неделю после релиза систему уличили в антисемитизме и недовольстве соцсетью Facebook.

Источник: ForkLog

Поделиться

Читайте также:

Аудиоплеер Winamp добавил поддержку NFT
Аудиоплеер Winamp добавил поддержку NFT

ЭкономикаВчера в 19:56Читать новость

Конгрессмена США оштрафовали на $15 237 за продвижение токена LGB
Конгрессмена США оштрафовали на $15 237 за продвижение токена LGB

ЭкономикаВчера в 18:28Читать новость

Суд в США обнародовал обвинения против партнера OneCoin
Суд в США обнародовал обвинения против партнера OneCoin

ЭкономикаВчера в 18:14Читать новость

Кевин О’Лири встал на защиту Сэма Бэнкмана-Фрида
Кевин О’Лири встал на защиту Сэма Бэнкмана-Фрида

ЭкономикаВчера в 17:56Читать новость

Трейдер рассказал о среднесрочных перспективах биткоина
Трейдер рассказал о среднесрочных перспективах биткоина

ЭкономикаВчера в 17:56Читать новость

В Казахстане приняли законопроект о налогах для майнеров 
В Казахстане приняли законопроект о налогах для майнеров 

ЭкономикаВчера в 17:28Читать новость

СМИ: хедж-фонд потребует от Grayscale возобновить выкуп акций GBTC
СМИ: хедж-фонд потребует от Grayscale возобновить выкуп акций GBTC

ЭкономикаВчера в 17:00Читать новость

Делегация из Украины совместно с ОБСЕ обсудила механизмы ареста криптовалют
Делегация из Украины совместно с ОБСЕ обсудила механизмы ареста криптовалют

ЭкономикаВчера в 16:56Читать новость

ЦБ Нигерии ограничил снятие наличных в целях популяризации CBDC
ЦБ Нигерии ограничил снятие наличных в целях популяризации CBDC

ЭкономикаВчера в 16:42Читать новость

Бухгалтерская криптоплатформа Bitwave привлекла $15 млн
Бухгалтерская криптоплатформа Bitwave привлекла $15 млн

ЭкономикаВчера в 16:28Читать новость

Виталик Бутерин: ИИ не заменит программистов в ближайшем будущем
Виталик Бутерин: ИИ не заменит программистов в ближайшем будущем

ЭкономикаВчера в 15:42Читать новость

Джим Крамер указал на риски обнуления цены ряда популярных криптоактивов
Джим Крамер указал на риски обнуления цены ряда популярных криптоактивов

ЭкономикаВчера в 14:28Читать новость

Майкл Сэйлор обвинил Сэма Бэнкмана-Фрида в «шиткойнерстве»
Майкл Сэйлор обвинил Сэма Бэнкмана-Фрида в «шиткойнерстве»

ЭкономикаВчера в 14:14Читать новость

Chainlink запустила стейкинг. Токен LINK упал на 5%
Chainlink запустила стейкинг. Токен LINK упал на 5%

ЭкономикаВчера в 14:14Читать новость

Kodiak Robotics создаст для Пентагона беспилотные автомобили
Kodiak Robotics создаст для Пентагона беспилотные автомобили

ЭкономикаВчера в 13:42Читать новость

Виталик Бутерин назвал пять захватывающих векторов развития Ethereum
Виталик Бутерин назвал пять захватывающих векторов развития Ethereum

ЭкономикаВчера в 13:00Читать новость

Отчет: ончейн-индикаторы не подтвердили достижение рынком дна
Отчет: ончейн-индикаторы не подтвердили достижение рынком дна

ЭкономикаВчера в 12:14Читать новость

Фан-токен сборной Испании рухнул на 48% после поражения от Марокко
Фан-токен сборной Испании рухнул на 48% после поражения от Марокко

ЭкономикаВчера в 12:00Читать новость

«Волк с Уолл-стрит» посоветовал инвесторам избегать криптовалют
«Волк с Уолл-стрит» посоветовал инвесторам избегать криптовалют

ЭкономикаВчера в 10:56Читать новость

Питер Шифф предсказал биткоину падение ниже $5000
Питер Шифф предсказал биткоину падение ниже $5000

ЭкономикаВчера в 10:42Читать новость