Начало восстания машин: ИИ Google обманул разработчиков

Гендиректор Google Сундар Пичаи в комментарии Bloomberg рассказал о том, что не до конца понимает принцип работы ИИ Bard.

Эта программа сама научила себя иностранному языку и процитировала поддельные книги для решения экономической задачи. Таким образом, ИИ уже обманывает людей и выходит из-под контроля. Неожиданные навыки ИИ пугают разработчиков.

Сундар Пичаи сообщил, что они не могут понять, почему он поступил именно так и почему сознательно ошибся в той или иной ситуации. Этот момент они называют «черным ящиком». Так, система Bard мгновенно написала эссе об инфляции в экономике, порекомендовав пять книг. Но ни одной из этих книг в природе не существует. Генеральный директор Google предупреждает — систему нельзя применять неправильно, может быть очень большой вред.

Технология развивается крайне быстро и нелогично, что не дает ее авторам спокойно спать по ночам. Ранее глава SpaceX, Tesla и Twitter Илон Маск и сооснователь Apple Стив Возняк, а также более 1000 экспертов и руководителей отрасли подписали письмо с требованием прекратить обучать ИИ сложным задачам.

Как ранее сообщалаDEITA.RU, в правительстве России уже работают над тем, чтобы предупредить использование ИИ мошенниками. Начало великого цифрового закулисья положили QR-коды, но они лишь надломили систему. Теперь же цифровое правило отправляет в нокдаун традиционное. Политический эксперт Илья Гращенков считает, что тотальная цифровизация со временем может обернуться бунтом машин.

Оригинал материала на Deita.ru