Nobel Prize winner Yang Li Kun: Starships are not a scientific achievement, but an engineering achievement; now AI is not as good as a cat in all aspects, intelligence, memory, and curiosity are far worse. -> Победитель Нобелевской премии Ян Ли Кун: Звездолеты не являются научным достижением, а инженерным достижением; в настоящее время искусственный интеллект не так хорош, как кошка, во всех аспектах — интеллекте, памяти и любопытстве, намного уступает.

C с 1986 года знаком Леон Боту, который говорил о ЛеКюне: «Он упорный в нужной мере»; то есть он способен выслушивать мнения других, но при этом имеет твердое решимость в поиске того метода создания искусственного интеллекта, который считает правильным.

Eric Harrington - Эрик Харрингтон

Недавно газета The Wall Street Journal провела интервью с Яном Лекуном, называемым "отцом CNN" и одним из "трех отцов искусственного интеллекта". Беседа была о том, что современные LLM недостаточно интеллектуальны. В настоящее время обсуждение этого интервью находится в центре внимания на Hacker News.

LeCun - один из важных стимуляторов современного всплеска искусственного интеллекта, один из редко встречающихся голосов среди множества экспертов, потому что сейчас многие эксперты по ИИ считаются преувеличивающими силу и потенциальные риски искусственного интеллекта. Когда другие известные ученые заявляют, что мы приближаемся к наличию компьютеров, способных превзойти или даже заменить интеллект человека, LeCun становится одним из самых квалифицированных скептиков.

If you often browse tweets on X and follow LeCun, you will find that he is a very straightforward person, often engaging in intense debates on social media with supporters who advocate the superhuman potential of generative AI. This includes Elon Musk and two peers who share the title of "AI father" with him – Geoffrey Hinton and Yoshua Bengio. Especially Hinton, a friend of LeCun for nearly forty years, who recently won the Nobel Prize in Physics and has repeatedly warned about the survival threats posed by AI. One of the most impressive instances was when Hinton appeared on the screen at the Beijing Wisdom Source Conference one year, reminding every Chinese guest present of the risks of AI.

Однако ЛеКун полагает, что несмотря на то, что современные модели искусственного интеллекта очень полезны, они далеко не могут сравниться с нашими домашними животными, не говоря уже о том, чтобы быть на уровне человека.

В этом интервью ЛеКуну был задан вопрос, стоит ли беспокоиться о том, что искусственный интеллект может стать настолько мощным, что представит для нас угрозу, на что он юмористически ответил: "Простите, что я говорю по-французски, но это абсолютная чушь."

LeCun родился на северных окраинах Парижа, его интерес к искусственному интеллекту частично обусловлен персонажем бунтующего искусственного интеллекта HAL 9000 из научно-фантастического фильма Стэнли Кубрика "2001: Космическая одиссея" 1968 года. Получив докторскую степень в университете Сорбонны, он работал в прославленной лаборатории Белл, где были сделаны значительные изобретения, от транзисторов до лазеров. В 2003 году он присоединился к Нью-Йоркскому университету в качестве преподавателя по компьютерным наукам, и через десять лет стал директором исследовательского отдела по искусственному интеллекту в компании Facebook, которая тогда еще не была так широко известна.

LeCun的Russian name is "Ян Ле Кун". В начале карьеры его зачастую обозначали как «Ян Лецун» или другие варианты, но однажды на одной из презентаций Ле Кун показал слайд, где китайскими иероглифами были написаны три китайских символа, образующие имя Ян Лекун. Таким образом, он не только представил правильное произношение своего французского имени, но и выбрал себе китайское имя.

В 2019 году ЛеКан вместе с Хинтоном и Бенджио были удостоены самой высокой награды в области компьютерных наук - премии Тьюринга, что заставило их назвать себя "отцами искусственного интеллекта". Эта награда отмечает их основательную работу в области нейронных сетей, которая лежит в основе многих современных систем искусственного интеллекта, от ChatGPT от OpenAI до недавно запущенного автомобиля с автоматическим управлением от Tesla.

В реальной жизни LeCun обладает непреодолимым шармом: он остроумен, всегда может прямо и откровенно выразить свои глубокие знания в этой области. Несмотря на свои 64 года, он создаёт образ как модного, так и немного небрежного человека, что очень соответствует его прошлому парижанина и нынешнего профессора в Нью-Йоркском университете.

Он часто носит классические черные очки Ray-Ban, которые практически неотличимы от AI-приводных очков Meta, которые сейчас являются флагманским продуктом. Следует отметить, что сам ЛеКун когда-то имел пару AI-приводных очков Ray-Ban, но к сожалению, они случайно упали в море во время одного из его морских путешествий и перестали работать. Плавание - одно из главных увлечений ЛеКуна, которое демонстрирует его страсть к приключениям и природе.

Журналист Wall Street Journal говорил, что, находясь в конференц-зале офиса Meta в Нью-Йорке, ЛеКун неосознанно излучает тепло и уверенность. Он представляет острые мнения с улыбкой, которая заставляет вас чувствовать себя как близкого друга, делящего внутренний анекдот.

Благодаря своим достижениям и лидирующему положению в исследовательской лаборатории Meta AI, критика ЛеКана часто кажется особенно весомой.

В настоящее время ЛеКун все еще пишет статьи в Нью-Йоркском университете вместе со своими докторантами, а в Meta он является главным научным сотрудником, руководящим одной из самых финансово обеспеченных исследовательских организаций по искусственному интеллекту в мире. Он часто общается с генеральным директором Марком Цукербергом через WhatsApp; последний ориентирует Meta на то, чтобы стать основной силой в борьбе с технологическими гигантами, такими как Apple, OpenAI и др., в процветающем мире искусственного интеллекта, и получил положительные отзывы от разработчиков за выпуск открытых крупных моделей серии Llama.

ЛеКун считает, что искусственный интеллект является мощным инструментом. В интервью он привел много примеров, чтобы показать, как искусственный интеллект станет ключевой составляющей Meta и увеличит его масштаб и доход до примерно 1,5 триллиона долларов США. От моментального перевода до контентного анализа, искусственный интеллект играет важную роль во всех аспектах Meta.

ЛеКун настаивает, что текущее искусственное интеллекта не обладает реальным интеллектом, и многие другие люди в области, особенно те, которые работают в стартапах в сфере искусственного интеллекта, делают на его взгляд абсурдные предположения о его ближайшем развитии. Многие надеются на искусственный общий интеллект (AGI), основанный на крупных языковых моделях, таких как модель OpenAI, чтобы в ближайшее время создать так называемый AGI — искусственный общий интеллект, превосходящий возможности человека. Сам Альтман из OpenAI заявил в сентябре, что мы, возможно, сможем иметь AGI уже "в течение нескольких тысяч дней". А Илон Маск когда-то говорил, что это может произойти к 2026 году.

This spring, he got into a heated argument on X platform because of Musk — the incident was triggered by Musk announcing that xAI had secured a 6 billion dollars funding and posted a job advertisement mentioning that "to join xAI, one must uphold the highest level of rigor in the pursuit of truth, unaffected by popular trends or political correctness".

Translated to Russian:
Этой весной он вступил в ожесточенный спор на платформе X из-за Маска — инцидент произошел из-за объявления Маска о том, что xAI получил финансирование в размере 60 миллиардов долларов и разместил объявление о работе, упоминая, что "чтобы присоединиться к xAI, необходимо придерживаться самого высокого уровня строгости в стремлении к истине, не затрагиваемой популярными тенденциями или политической корректностью".

Результатом этого является то, что ЛеКан раздражен заявлением Маска о "стремлении к истине", поскольку по его мнению, Маск каждый день публикует теории заговора на тему того, что в будущем искусственный интеллект уничтожит человечество. Как же он может утверждать, что следует за истиной?

Война близка к началу, Маск и ЛеКун сначала сравнивают их научные и академические достижения: Маска считают "предпринимателем", а он обвиняет ЛеКуна в публикации устаревших статей в прошлом:

"Вы называете себя ученым, что вы сделали, что связано с наукой?"

"В этом году я опубликовал 80 технических статей."

"Так что, давай постарайся еще сильнее!"

"Ты не мой начальник, что тебе дурно?"

Далее, конфликт между ними перерос в необратимое столкновение, поднявшись с уровня науки до атак на личность и политической критики, так что в течение следующих нескольких месяцев LeCun неустанно критиковал политические взгляды Маска.

Однако стоит отметить, что после того как 13 октября появилась новость о успешном пятом испытании звездного корабля, LeCun неожиданно изменил свое поведение и поздравил в комментариях к твиту Маска.

"Ниже в комментариях, наверняка, заварится. Популярный комментарий спрашивает его: 'Ты не говорил, что у Маска нет научных достижений?'"

LeCun, однако, ответил: "Это действительно не научно."

"Что это?"

"Это инженерия (Engineering)."

I am sorry, could you please provide me with the content that you need to be translated into Russian?

Помимо Маска, ЛеКун также открыто не согласился с предупреждениями своих близких друзей Хинтона и Бенджио о потенциальной опасности искусственного интеллекта для человечества. Бенджио выразил мнение, что хотя он согласен с многими точками зрения ЛеКуна, между ними есть разногласия относительно того, сможет ли компания гарантировать, что будущий сверхчеловеческий искусственный интеллект не будет использоваться злонамеренно или развивать собственные злонамеренные цели. "Я хочу чтобы он был прав, но я считаю, что защита общества и демократии не должна зависеть только от конкуренции и прибыли компаний," - сказал когда-то Бенджио, - "вот почему я считаю, что нам нужно вмешательство правительства."

ЛеКун считает, что эти заявления могут быть сделаны слишком рано. В мае этого года уход исследователя из OpenAI вызвал обсуждение важности контроля над сверхинтеллектуальным искусственным интеллектом, на что ЛеКун сразу ответил: «Я считаю, что прежде чем мы пытаемся спешить искать способы контроля над системами искусственного интеллекта, которые умнее нас, нам следует начать с разработки систем, умнее, чем домашние кошки».

Ле-Кун предпочитает использовать кошек в качестве метафор. На саммите правительств мира ранее в этом году он использовал точно такую же метафору. В конце концов, у кошек есть модель мира, долговременная память, определенные рассудительность и планирование, и все эти характеристики отсутствуют в текущих "передовых" искусственных интеллектах, включая продукты самой Meta.

С 1986 года Леон Ботту, который знает Лекюна, сказал, что Лекюн "упрямо находит золотую середину" - это значит, что он готов выслушать чужие точки зрения, но имеет твердое решимость в поиске правильного подхода к созданию методов искусственного интеллекта.

Бывший аспирант ЛеКюна, Александр Ривес (теперь основал собственную стартап-компанию в области искусственного интеллекта), также говорил, что провокации его наставника были тщательно продуманы. "Он умело выявлял пробелы в мышлении в предметной области и указывал на них".

LeCun believes that true artificial general intelligence is a worthwhile goal and this is the direction that Meta is striving for. "In the future, when people interact with their AI systems, whether through smart glasses or other devices, we need these AI systems to have human-level qualities, truly possess common sense, and behave like a human assistant," he said.

Translated to Russian:
ЛеКун считает, что истинный искусственный общий интеллект - это цель, на достижение которой стоит стремиться, и это направление, в котором настраивается Meta. "В будущем, когда люди взаимодействуют со своими ИИ-системами, будь то умные очки или другие устройства, нам необходимо, чтобы эти ИИ-системы обладали качествами человека, действительно обладали здравым смыслом и вели себя как человеческий помощник", - сказал он.

Однако создание такого компетентного искусственного интеллекта может занять десятилетия, и существующие методы в настоящее время не способны достичь этой цели. Процветание генеративного искусственного интеллекта было обусловлено большими языковыми моделями и другими подобными системами, которые обучаются на огромных объемах данных, чтобы имитировать человеческий способ выражения. С каждым новым поколением моделей некоторые эксперты пришли к выводу, что достаточно вложить больше чипов и данных в разработку будущего искусственного интеллекта, чтобы он становился все более мощным, и, в конечном итоге, мог превзойти человеческий интеллект. Именно это лежит в основе рациона инвестирования значительных средств в создание более масштабных специализированных чипов для обучения искусственного интеллекта.

ЛеКун считает, что проблема текущих систем искусственного интеллекта заключается в их способе проектирования, а не в их масштабе.

"Независимо от того, сколько графических процессоров вставлено в центры обработки данных крупных технологических гигантов по всему миру, современное искусственное интеллект не способно достичь общего искусственного интеллекта". Он ставит на то, что исследования, основанные на принципиально ином методе работы, помогут нам открыть путь к интеллекту на уровне человека. Эти предполагаемые будущие формы искусственного интеллекта могут быть различными, но одним из проектов, который в настоящее время вдохновляет ЛеКуна, является работа по извлечению видеоматериалов из реального мира через Meta AI. Идея заключается в создании модели, которая строит модель мира, подобную тому, как это делают молодые животные, используя визуальную информацию. Огромные языковые модели, такие как ChatGPT и другие роботы, однажды могут играть только незначительную роль в системах, обладающих знаниями и человекоподобными способностями, которые будут развиваться с использованием других технологий и алгоритмов.

Сегодняшние модели фактически просто предсказывают следующее слово в тексте. Но они делают это настолько хорошо, что даже обманывают нас. Из-за их огромной памяти они кажутся способными на рассуждения, но на самом деле они просто повторяют уже обученные данные. "Мы привыкли думать, что тот, кто может выражать себя или манипулировать языком, умён, но это не так," - говорит ЛеКун, - "Можно манипулировать языком, но при этом не быть достаточно умным, и вот в чем в основном заключается ситуация, которую показывают большие модели."

Через этот путь ЛеКан не только преодолевает текущие пределы искусственного интеллекта, но также способствует движению всей отрасли к более глубокому пониманию, чтобы обеспечить, что будущие технологии искусственного интеллекта могут действительно служить долгосрочному воздействию на человеческое общество.

Перевод: https://www.wsj.com/tech/ai/yann-lecun-ai-meta-aa59e2f5

("Original text" translates to "Перевод")