Исследователи ставят под сомнение умственные способности Microsoft Copilot и ChatGPT, поскольку чемпионы по искусственному интеллекту преуспевают в «способностях к запоминанию, а не к истинному рассуждению».

Что тебе нужно знать

ИИ демонстрирует исключительные результаты и производительность при решении повседневных задач по сравнению с новыми и сложными.
Исследователи Массачусетского технологического института утверждают, что инструменты искусственного интеллекта в значительной степени полагаются на память, а не на рассуждения, что отрицательно влияет на их производительность при выполнении новых задач.
Вмешательство человека по-прежнему имеет решающее значение для результатов, генерируемых ИИ.

Как опытный исследователь с опытом работы в области искусственного интеллекта и машинного обучения, я стал свидетелем стремительного развития технологий искусственного интеллекта и их растущего влияния на различные отрасли. Хотя достижения, несомненно, впечатляют, мой личный опыт и недавние исследования вызвали некоторую обеспокоенность по поводу ограничений ИИ и его зависимости от вмешательства человека.

Рост популярности и использования генеративных технологий искусственного интеллекта во всем мире вызвал различные опасения, особенно в отношении безопасности и конфиденциальности. Растут опасения, что ИИ может превзойти человеческий интеллект, что приведет к сокращению рабочих мест и потенциально превратит работу в времяпрепровождение. Понятно, что профессионалы обеспокоены своей ценностью на рынке труда.

Следует признать, что чат-боты с искусственным интеллектом, такие как ChatGPT и Microsoft Copilot, добились значительных успехов, перейдя от галлюцинаций к быстрому выявлению и исправлению ошибок кода. Точка зрения генерального директора NVIDIA Дженсена Хуанга вызывает интригу относительно потенциального влияния этой растущей тенденции на карьеру кодирования.

Для разработки больших языковых моделей (LLM) широко используется Интернет, что может стать проблемой из-за сильной зависимости от материалов, защищенных авторским правом. Эта проблема привела к тому, что известные технологические компании, такие как Microsoft и OpenAI, вступили в судебные баталии по поводу нарушения авторских прав. Сэм Альтман, известный деятель в этой области, признает, что создание инструментов, подобных ChatGPT, невозможно без использования контента, защищенного авторским правом. Он также утверждает, что действующие законы об авторском праве не ограничивают использование материалов, защищенных авторским правом, для обучения технологиям искусственного интеллекта.

Несмотря на продолжающиеся дебаты, технологии искусственного интеллекта быстро развиваются и становятся все более сложными, что потенциально делает некоторые профессии устаревшими. Например, архитекторы и дизайнеры интерьеров могут оказаться впереди продвинутого Image Creator от Designer и чат-ботов, таких как ChatGPT. Эти инструменты могут создавать сложные и детальные проекты за считанные секунды. Однако им еще предстоит освоить более простые задачи, такие как создание простого белого изображения.

Как энтузиаст технологий, я всегда в восторге от последних достижений в области искусственного интеллекта (ИИ). Мое внимание привлекло недавнее исследование, проведенное Лабораторией компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL). Согласно их исследованиям, большие языковые модели (LLM), такие как я, превосходно справляются со знакомыми задачами, опираясь на огромные объемы данных, на которых мы обучались. Однако, когда дело доходит до новых задач, инструменты ИИ, в том числе и я, часто дают сбои. Причина в том, что мы склонны слишком сильно полагаться на запоминание, а не на истинные способности к рассуждению. Это увлекательное открытие проливает свет на сильные и слабые стороны современных технологий искусственного интеллекта.

Чтобы подтвердить эту гипотезу, исследователь изучил, насколько хорошо большие языковые модели (LLM) работают при решении знакомых и новых задач. Основываясь на их результатах, сложные инструменты, такие как GPT-4 от OpenAI, продемонстрировали исключительные арифметические способности с использованием системы счисления с основанием 10, но столкнулись с проблемами с другими системами счисления. Исследователи применили одни и те же аналитические методы для оценки способностей студентов магистратуры по ряду задач, включая шахматы и пространственное мышление.

Исследователи оценили способности LLM к «случайному выбору в новых сценариях». Результаты показывают, что ИИ обычно проявляет себя в тех областях, где он прошел тщательную подготовку и к которым привык, в значительной степени полагаясь на хранимую информацию. Однако, столкнувшись с новыми проблемами, требующими подлинного рассуждения, в котором люди особенно искусны, ИИ часто дает сбои.

ИИ нуждается в вмешательстве человека, чтобы все исправить

С каждым днем становится все больше доказательств того, что ИИ добивается значительных успехов, способных выполнять все большее количество задач при минимальном человеческом надзоре. Недавнее исследование показывает, что примерно половина (54%) банковских позиций потенциально может быть автоматизирована с использованием ИИ. Однако остается вопрос: будет ли это осуществимо, учитывая текущие проблемы, связанные с конфиденциальностью и безопасностью, которые могут помешать развитию технологии?

Медиаиндустрия находится под значительным влиянием широкого использования искусственного интеллекта (ИИ). Ранее мы указывали, как одно издание приняло спорное решение уволить большое количество своего персонала в пользу автоматизации с использованием ИИ. Этот шаг был призван сократить расходы, но привел к непредвиденным последствиям. В долгосрочной перспективе редакторы оказались перегружены, поскольку потратили немало времени на исправление ошибок, допущенных ИИ. В результате изданию пришлось нанимать новых авторов не для создания контента, а для исправления грамматических и фактических ошибок, допущенных ИИ. Этим новым сотрудникам была предложена более низкая заработная плата по сравнению с их предшественниками.

Разработчики игр выразили обеспокоенность по поводу замены искусственного интеллекта в их отрасли. Отчеты показывают, что игровые студии изучают возможность использования передовых инструментов для автоматизации рутинных задач, стремясь высвободить время разработчиков для более творческой работы. Однако некоторые разработчики предупреждают, что это может фундаментально изменить их роли.

Кроме того, внедрение ИИ в создание игр может привести к увеличению рабочей нагрузки на разработчиков, требуя от них сосредоточиться на исправлении ошибок, создаваемых ИИ, вместо использования своих творческих способностей для улучшения игрового процесса.

Смотрите также

2024-07-16 20:39