empty
 
 
15.08.2023 23:43
ChatGPT и все-все-все... Игра с нарушением всех правил

Изображение больше не актуально

Как оказалось, «каждая компания, каждый человек, каждый бизнес – это языковой бизнес. В нем глубоко встроены языковые потоки. Поэтому, если вы можете добавить немного ценности в существующие языковые рабочие процессы, тогда ИИ сможет быть принят так широко», – считает Грег Брокман, президент и соучредитель OpenAI.

Сегодня компания, основанная в 2015 году, оценивается почти в 30 млрд долларов , а ее ChatGPT вызвал самую настоящую золотую лихорадку подобных продуктов искусственного интеллекта. Причем OpenAI – это компания открытого типа и ее акции не котируются на фондовой бирже.

Примечательно, что, когда создавался ИИ, стандартные правила Силиконовой долины для успешных стартапов оказались к нему неприменимы. «Нам потребовалось четыре с половиной года, чтобы запустить продукт. Мы собираемся стать самым капиталоемким стартапом в истории Силиконовой долины. Мы создавали технологию, не имея ни малейшего представления о том, кем будут наши клиенты и для чего они будут ее использовать», – так в начале мая описывал необычный подъем компании ее генеральный директор Сэм Альтман.

Изображение больше не актуально

У ChatGPT отсутствуют:

  • социальные функции
  • встроенный обмен
  • встроенная вирусная петля и т. д.

Пол Грэм, соучредитель и бывший глава Y Combinator (в 2014 году его сменил Сэм Альтман), считает, что ИИ – это «решение гораздо большего количества проблем, чем его разработчики даже подозревали».

И здесь он, конечно, тысячу раз прав. Особенно если учесть, что цепочка «проблема – ИИ – решение» все чаще выступает в несколько перевернутом виде «ИИ – проблема – есть решение?».

ChatGPT позволяет одним нажатием кнопки получить авторитетный текст или визуальное изображение. Но простота эта хуже обмана. По мере распространения лихорадки ИИ рискуют быть разрушены все правила интернета и навигация по сети. И спам, который уже сейчас раздражает сверх меры, – это самая меньшая из проблем.

Специалисты обнаружили, как ИИ может быть использован в качестве оружия. Его скорость и вычислительная мощность потенциально способны превзойти защитников-людей. Он создает огромные проблемы для кибербезопасности, о которых сейчас мы даже не догадываемся. По сути – ИИ уже начал переписывать механику интернета.

Изображение больше не актуально

В ближайшее время будут поставлены под сомнение такие фундаментальные основы безопасности в интернете, как:

  • шифрование
  • обнаружение вредоносных программ
  • многофакторная аутентификация
  • фото- и видеоверификация и др.

Это потребует принципиально новых способов защиты. Например, еще в мае при входе на сайт HBO Max вместо капчи «Я не робот» или сетки изображений «выбрать все квадраты с ...» пользователи должны были решить сложную серию головоломок, чтобы доказать свою «человечность».

Изображение больше не актуально

А в агусте поднял тревогу глава криптовалютной биржи Binance Чанпэн Чжао. Причиной его предупреждения стал сгенерированный ИИ видеоклип. На нем Джошуа Сюи – соучредитель и генеральный директор видеоплатформы HeyGen – рекламирует продукт своей компании. Клон выглядит и говорит точно так же, как настоящий Джошуа Сюи (см. фото).

Глава криптоплатформы Binance, которая часто требует фото или видео с подтверждением личности, считает, что изобретение HeyGen позволит злоумышленникам получить доступ к счетам клиентов. И ужу очень скоро этот инструмент станет общедоступным и позволит любому создать реальный цифровой аватар всего за «две минуты»!

Изображение больше не актуально

Но финансовые проблемы – это только верхушка айсберга. Искусственный интеллект способен создать проблемы для человеческого общества в целом.

Вот только несколько примеров того, как может навредить ИИ:

  1. Поставить под сомнение достоверность данных.
  2. Разрушить веру в надежные источники информации.
  3. Сгенерировать психологические манипуляции такого масштаба, с которыми человечеству в своей истории еще приходилось сталкиваться.
  4. Создать версии вредоносных программ для нанесения целевых ударов по конкретным людям или компаниям – что-то вроде цифрового эквивалента «умной бомбы».
  5. Разместить изображение вашего профиля... везде, где посчитают нужным...
  6. Использовать весь контент, созданный вами для обучения своих моделей ИИ бесплатно!
  7. Создать видеообращение, например, известного политика – с искусственно переработанным голосом, который будет говорить исключительно на волнующие вас темы (как вариант – вашего родственника/знакомого с просьбой о помощи).
  8. Создать вашу точную копию с учетом ваших предпочтений и манеры поведения (на основе информации с общедоступных веб-сайтов, профилей в соцсетях и т. д.).
  9. С помощью «умного» приложения-ежедневника прочесть вашу электронную почту, заметки в календаре, узнать ваши покупки.
  10. И так далее, так далее, так далее...
Для справки – сами создатели ChatGPT прописывали возможные области его применения в течение нескольких месяцев!

Согласитесь, что в этом контексте утверждение «Кто владеет информацией, тот владеет миром» приобретает совсем новый смысл...

Изображение больше не актуально

Вместе с тем интернет все больше становится похож на пространство, созданное машинами и для машин. Например NewsGuard, которая которая отслеживает дезинформацию и оценивает достоверность информационных веб-сайтов, нашла уже около 350 новостных онлайн-изданий, которые почти полностью генерируются ИИ и практически не контролируются людьми.

А Филиппо Менцер, профессор из Индианы, уже обнаружил в сети чат-ботов – авторов объемного контента на платформах X (ранее Twitter) и Facebook. Не обошла новая «мода» и онлайн-продажи на Amazon и Etsy. Американский инженер Кристофер Коуэлл подготовил к изданию свой технический учебник, но обнаружил на Amazon книгу с таким же названием на две недели раньше срока. Оказалось, что книгу-двойник написал ChatGPT, а название его мнимый автор-мошенник взял из анонсов сайта.

Сейчас трудно это представить, но по мере того, как сеть наводнится продуктом, созданным ботами, люди больше не будут создавать и потреблять контент в интернете. Интернет для них станет мертвым.

Изображение больше не актуально

Кстати, профессор искусственного интеллекта в Университете Нового Южного Уэльса Тоби Уолш считает, что в этом случае также усложнится жизнь создателей самого ИИ. «Сегодня искусственный интеллект работает, потому что он обучается на человеческом поте и изобретательности, – сказал ученый. – Если генеративный ИИ второго поколения будет обучен на выхлопе первого поколения, качество резко упадет».

В мае этого года исследователи из Оксфорда отметили, что обучение ИИ на опыте других ИИ приводит «ученика» к его деградации, а в конце концов – к краху. Кроме того, контент, созданный ИИ, постепенно заглушает человеческий. В результате этого у Microsoft, Google и др. сокращается уровень исходных данных для улучшения своих моделей.

Интернет уже никогда не будет прежним.

И не только интернет. Аналитики из Goldman Sachs считают, что:

  • К 2025 году инвестиции в ИИ по всему миру могут достичь 200 млрд долларов.
  • В течение десятилетия ИИ повысит глобальную производительность труда более чем на 1 процентный пункт в год.
  • Инвестиции в ИИ могут оказать более значительное влияние на ВВП США , чем даже изобретение электричества или персональных компьютеров

«Наши экономисты ожидают, что инвестиции в ИИ будут в основном связаны с вложениями в оборудование для обучения моделей ИИ и выполнения запросов ИИ, а также с увеличением расходов на программное обеспечение с поддержкой ИИ», – заявили в Goldman Sachs.

Продолжение следует...

Начало темы

Так ли страшен ChatGPT... Вопросов пока больше, чем ответов (ч. 3)

Так ли страшен ChatGPT... С ИИ стать волшебником торговли может каждый? (ч. 4)

С уважением,
Аналитик ИнстаФорекс
Светлана Радченко
© 2007-2024
Зараз не можете говорити по телефону?
Задайте Ваше питання у чаті.