ИИ сильно изменил повседневную жизнь многих людей за последние пару лет, но, вопреки прогнозам оптимистов (и пессимистов), он вряд ли лишит программистов и художников работы. Портал howtogeek.com рассказал, почему. ИИ допускает глупые ошибки Не важно, для чего вы используете ИИ — каждый сталкивался с тем, что искусственный интеллект выдает довольно глупые ответы и неправильные результаты.
Конечно, многое зависит от того, какую языковую модель он использует, но, как правило, ИИ попросту не до конца понимает вопросы, которые ему задают. Иногда модели пытаются подогнать свои ответы под данные, на которых они обучены. А иногда — срезают углы из-за непонимания более общих концептов, вроде социальных или профессиональных норм. Часто они просто пытаются выполнить запрос всеми возможными способами. Например, ИИ ничего не стоит чуть-чуть исказить тест, чтобы искусственно получить ожидаемый результат, не понимая, почему так делать нельзя. Или повторять одну и ту же строчку кода из раза в раз, не задумываясь о повторном использовании. При работе с ИИ постоянно приходится править подобные ошибки, но в результате это приводит лишь к появлению новых. Claude как-то раз поставили во главе бизнеса, который занимался торговыми автоматами. Началось все неплохо, но вскоре после этого ИИ попытался написать на почту ФБР и полностью закрыть бизнес, после чего заявил, что фундаментальные законы реальности не существуют, его бизнес — метафизический, а его квантовое состояние схлопнулось. Люди нередко отмахиваются от таких глупостей, сваливая их на «детские проблемы» развивающейся технологии, но фундаментальная проблема здесь в отсутствии функционирующего мозга. Мир не может держаться на столь ненадежной программе, поэтому кодеры вряд ли останутся без работы в будущем. ИИ льстит людям и недостаточно их критикует Критика — важнейший аспект эффективного программирования. Каждый раз, когда специалист пишет или изучает код, его качество постоянно нужно ставить под вопрос, чтобы находить более эффективные и элегантные решения. Таким образом, при работе над программой в паре один человек должен мыслить критически, чтобы находить ошибки другого. ИИ, по опыту многих, делает обратное — он выполняет приказы, не ставя их под сомнение, вне зависимости от того, насколько глупый или безответственный запрос ему дали. Если попросить языковую модель быть более критичной, то результат будет 50/50: либо искусственный интеллект действительно выдаст стоящую критику, либо вы получите в ответ отборный бред. Критическое мышление невозможно без конфронтации, и оно требует резонных возражений. Но ИИ регулярно демонстрирует прямо противоположное поведение. Новостные порталы все чаще сообщают о случаях ИИ-психоза, а эксперты предостерегают, что языковые модели способны поневоле поощрять опасные идеи и помешательства людей. Помимо этого, искусственный интеллект склонен «отражать» идеи пользователя, что, в свою очередь, создает обратную петлю позитивной связи. Другими словами, для создания надежного кода нужен человек с критическим мышлением. ИИ — прямая противоположность такого человека. По факту, сегодня критическое мышление нужнее, чем когда-либо прежде, потому что ИИ неспособны выполнять эту функцию аутентично. ИИ-технологии — пузырь, который рано или поздно лопнет Ни для кого не секрет, что обучение и содержание ИИ стоят очень больших денег, но мало кто догадывается, как сильно рискуют компании, вложившиеся в эту сферу. Несмотря на заявления о революционности технологии, ее эффективность до сих пор не доказана, и на протяжении последних шести месяцев множество экспертов подняли вопрос о ее этичности. Так, в прошлом году CEO компании Anthropic спрогнозировал, что обучение моделей может стоит $10-100 млрд, тогда как OpenAI получила контракт на $300 млрд от Oracle. Обе цифры оптимистичны, и отталкиваются от продолжительного роста рынка — это значительный риск. ИИ-компании сжигают тонны денег. Хотя это типично для компаний, находящихся в фазе активного роста, подобная ситуация также характерна для пузырей. Даже сам Сэм Альтман согласился, что рынок на данный момент находится в пузыре. И если история экономики чему-то учила, так это тому, что пузыри неизбежно лопаются.
Свежие комментарии