Последната прогноза на Мъск: AI може да надмине човешкия интелект през 2030 г. и може да „унищожи“ хората в бъдеще (1/2)

Източник: Tencent Technology News 2024-04-04 08:55

Ключови точки:

① Мъск прогнозира, че AI може да надмине нивото на човешкия интелект до 2030 г. и дори може да унищожи хората.

② Мъск говори за факторите, ограничаващи развитието на ИИ. Миналата година доставките на AI чипове бяха ограничени, а тази година понижаващият трансформатор ще се превърне в тясно място.

③ Що се отнася до това кога хората могат да кацнат на Луната, Мъск прогнозира, че с помощта на Starship това ще отнеме само три години най-бързо.

Tencent Technology News, 4 април – Според съобщения в чуждестранни медии, Илон Мъск, главен изпълнителен директор на Tesla и SpaceX, наскоро е имал онлайн разговор с Питър Диамандис, основател на Singularity University и XPRIZE Foundation, на Abundance Summit. Домакин на срещата беше Singularity University в Силиконовата долина, който е посветен на предоставянето на бизнес лидери на авангардни технологични консултации. Фондацията XPRIZE насърчава технологичните иновации чрез научни състезания, някои от които са финансирани от Мъск., 4 април - Според съобщения в чуждестранни медии Илон Мъск, главен изпълнителен директор на Tesla и SpaceX, наскоро е провел онлайн разговор с Питър Диамандис, основател на Singularity Университет и фондация XPRIZE, на срещата на върха на изобилието. Домакин на срещата беше Singularity University в Силиконовата долина, който е посветен на предоставянето на бизнес лидери на авангардни технологични консултации. Фондацията XPRIZE насърчава технологичните иновации чрез научни конкурси, някои от които са финансирани от Мъск.

Когато обсъждаше скоростта на развитие на изкуствения интелект, Мъск прогнозира, че въз основа на сегашния темп на технологичен прогрес, изкуственият интелект може да надмине човешкия до 2030 г. и тази технология може дори да има потенциала да сложи край на човечеството. Той обаче не гледа песимистично на бъдещето, а подчертава, че чрез положителни насоки изкуственият интелект има потенциала да донесе по-добро бъдеще за човечеството.

Мъск спомена, че появата на суперинтелигентност се нарича "сингулярност" именно поради непредсказуемите последици, включително риска от потенциален край на човечеството. Той се съгласи с гледната точка на "кръстника на изкуствения интелект" Джефри Хинтън и смята, че вероятността този риск да се случи е приблизително между 10% и 20%.

Въпреки че признава потенциалните рискове изкуственият интелект да надмине човешкия, Мъск все пак подчерта, че възможността за положителни резултати надвишава отрицателните последици. Той специално спомена книгата на Диамандис от 2014 г. „Изобилие: Бъдещето е по-добро, отколкото си мислите“, която описва едно оптимистично бъдеще, движено от изкуствен интелект и роботи, където цената на стоките и услугите е намаляла значително. Освен това той цитира поредицата „Култура“ на шотландския писател на научна фантастика Иън М. Банкс като най-добрия сценарий за полуутопично бъдеще на изкуствения интелект.

Мъск сравни развитието на изкуствения интелект и изкуствения общ интелект (AGI) с отглеждането на дете, надявайки се, че това ще има по-положително въздействие върху човечеството. Той подчерта важността на култивирането на изкуствен интелект, който наистина разбира етиката и морала, сравнявайки го с класическия филм на Стенли Кубрик от 1968 г. „2001: Космическа одисея“.

Мъск посочи, че най-важният аспект на безопасността на изкуствения интелект е осигуряването на максимално търсене на истината и любопитство. Той вярва, че ключът към постигането на максимална безопасност на изкуствения интелект се крие в избягването на принуждаването му да лъже, дори в лицето на неприятни истини. Той използва сюжет от „2001: Космическа одисея“ като пример, където изкуственият интелект е бил принуден да лъже, което е довело до смъртта на екипажа, за да подчертае, че изкуственият интелект не трябва да бъде принуждаван да прави нещо, което нарушава аксиомите.

Мъск също така спомена фактори, които могат да ограничат развитието на изкуствения интелект, като ограниченото предлагане на чипове за изкуствен интелект, които се появиха миналата година и нарастващото търсене на понижаващи трансформатори в домакинското и търговското оборудване. Той заяви, че тези предизвикателства наистина са актуални проблеми, които трябва да бъдат разгледани.

По време на дискусията двете страни говориха и за концепцията за интегриране на неокортекса на човешкия мозък с облака. Въпреки че Мъск вярва, че целта за качване на човешкото съзнание и памет в облака е все още далеч, той похвали своя стартъп за интерфейс мозък-компютър, Neuralink, и първия му пациент, получил трансплантация. Този пациент с тетраплегия успешно демонстрира на живо чрез одобрено от FDA изпитване, контролирайки екрана, играейки видеоигри, изтегляйки софтуер и постигайки функции, подобни на операции с мишката чрез мозъчни импланти. Мъск заяви, че Neuralink напредва гладко и постепенно се придвижва към целта за пълномозъчен интерфейс.

Следва пълният текст на диалога между Мъск и Диамандис:

1. Силата и опасността от свръхинтелигентността

Диамандис: Поздравления за изключителните ви постижения в различни области. Вие активно популяризирате концепцията за дигитален суперинтелект пред света - това ли е най-голямата надежда на човечеството или най-дълбокият ни страх? Можете ли да отделите няколко минути за разговор по този въпрос?

Мъск: Както знаете, суперинтелигентността може да се нарече "сингулярност". Популяризирането на този термин е неотделимо от усилията на институции като Singularity Institute. Появата на суперинтелигентност и нейното последващо въздействие е наистина трудно да се предвиди. Лично аз вярвам, че наистина има възможност това да сложи край на човечеството. Както казах преди, мога да се съглася с мнението на Джефри Хинтън, че има 10% или 20% шанс суперинтелектът да сложи край на човечеството. Все пак съм склонен да вярвам, че вероятността за положителен сценарий е по-висока от отрицателна, въпреки че ни е трудно да правим точни прогнози. Но тъй като подчертахте понятието „изобилие“ във вашата книга, аз вярвам, че най-вероятното бъдеще, към което вървим, е бъдеще, пълно с изобилие.

Диамандис: Вашата гледна точка е много вълнуваща. Спомням си, че веднъж казахте, че развитието на общия изкуствен интелект и хуманоидните роботи ще ни доведе до изобилие.

Мъск: Да, надявам се бъдещето ни да бъде като това, изобразено в поредицата от книги „Култура“ на Иън Банкс. Мисля, че това е най-добрата концепция за полуутопично общество с изкуствен интелект. Появата на суперинтелигентност е неизбежна и може да се появи скоро. Следователно това, което наистина трябва да направим, е да го насочим в положителна посока и да увеличим максимално ползите от него.

Вярвам, че начинът, по който култивираме изкуствения интелект, е от решаващо значение. До известна степен ние сме като култивиране на форма на живот с обща интелигентност, което е почти като отглеждане на дете, но това дете притежава изключителна мъдрост и талант. Начинът, по който отглеждаме децата, е важен и по същия начин за безопасността на изкуствения интелект е от решаващо значение да имаме изкуствен интелект, който търси истината и е изпълнен с любопитство. Размишлявах дълбоко върху безопасността на изкуствения интелект и стигнах до заключението, че най-добрият начин за постигане на безопасността на изкуствения интелект е внимателното му култивиране.

По отношение на основните модели и фината настройка трябва да гарантираме честността на изкуствения интелект. Не можем да го принудим да лъже, дори истината да е неприятна. Всъщност, един от основните сюжети в "2001 Space Odyssey" е, че когато изкуственият интелект е принуден да лъже, нещата стават хаотични. На изкуствения интелект е забранено да информира екипажа за мистериозния паметник, който ще видят, но е длъжен да ги заведе там. В резултат на това изкуственият интелект заключава, че е най-добре да убие екипажа и да отнесе телата им на паметника. Урокът е дълбок: не трябва да принуждаваме изкуствения интелект да лъже или да прави нещо, което е аксиоматично несъвместимо, като например да прави две всъщност противоречиви неща едновременно.

Затова постигаме тази цел чрез проекти като xAI и Grok. Това, което преследваме, е изкуствен интелект, който е възможно най-честен, дори ако речта му може да не отговаря на определени политически коректни стандарти.

2. Бъдещето на изкуствения интелект

Диамандис: Вчера присъствах на събитие с Рей Курцвейл (основател на университета Singularity и технологичен пророк), Джефри Хинтън, Ерик Шмид (бивш президент на Google) и други гости. Забелязах вашия туит за Kurzweil и неговият 预见за бъдещи технологии е доста далновиден. Kurzweil прогнозира, че ще имаме общ изкуствен интелект в близко бъдеще и изкуствен интелект, еквивалентен на човешкия интелект, ще се появи през 2029 г. Такава скорост е шокираща. Чудя се какво мислите за това?

Мъск: Имам голямо уважение към прогнозите на Kurzweil. Всъщност мисля, че неговите прогнози може дори да са леко консервативни. Наблюдавайки текущата изчислителна мощ и таланта, инвестиран в областта на изкуствения интелект, както и бързото нарастване на изчислителната мощност, можем да установим, че скоростта на развитие на изкуствения интелект се увеличава с удивителната скорост от 10 пъти. Специализираната изчислителна мощност с изкуствен интелект изглежда се увеличава с 10 пъти на всеки 6 месеца, което почти означава увеличение от поне 100 пъти на година. Тази тенденция на растеж ще продължи да нараства през следващите няколко години.

Струва си да се отбележи, че много центрове за данни, дори повечето центрове за данни, които в момента изпълняват конвенционални изчисления, постепенно ще се трансформират в съоръжения, които поддържат изчисления с изкуствен интелект. Следователно за производителите на хардуер с изкуствен интелект компании като NVIDIA несъмнено поставиха началото на златен период на развитие. Трябва да отдадем пълното уважение на Huang Renxun и неговия екип. Те предвидиха тази тенденция и успешно разработиха водещия хардуер с изкуствен интелект в момента на пазара.

Когато изчислителната мощност расте с такава удивителна скорост, развитието на изкуствения интелект е като инжектиране с мощен стероид, скачайки на съвсем ново ниво. Тъй като броят на онлайн компютрите продължава да нараства, ние сме свидетели на безпрецедентно ускорено развитие. Всъщност никога не съм виждал технология да расте толкова бързо, колкото изкуственият интелект. Въпреки че съм виждал много бързо развиващи се технологии, възходът на изкуствения интелект все още ме изумява. Въпреки това, както казах, мисля, че крайният резултат вероятно ще бъде положителен.

Въпреки че сме изправени пред много предизвикателства, като например как да поддържаме човешката значимост в тази област и как да намираме нови цели и значения, мисля, че е прекалено опростено да се подчертава прекалено, че компютрите могат да бъдат добри във всичко.

Както споменахте по-рано, смятам, че прогнозите на вашата книга за бъдещото общество са много точни. Това е ера на материално изобилие, в която стоките и услугите ще бъдат толкова изобилни, че са почти достъпни за всеки. Благодарение на широкото приложение на технологиите за изкуствен интелект и роботика, цената на стоките и услугите ще бъде почти намалена до нула. Икономиката по същество е продукт на размера на населението и средната производителност на човек. Когато разполагаме с напреднала роботизирана технология, като Optimus на Tesla, икономическият потенциал наистина ще бъде разгърнат.

Колите на Tesla, като роботи на четири колела, вече демонстрираха силни възможности. Очаква се най-новата версия с напълно автономни възможности за шофиране да постигне контрол от край до край, базиран на изкуствен интелект, превръщайки колата в наистина интелигентен робот на колела. В съчетание с развитието на хуманоидни роботи възможността за икономическо производство е почти неограничена.

От оптимистична гледна точка се движим към бъдеще с изключително материално изобилие, което според мен е най-вероятният резултат. Мисля, че единственият възможен недостиг в бъдеще ще бъде недостигът, който създаваме изкуствено, като определени уникални произведения на изкуството или специфични предмети. Но освен това всякакви стоки и услуги ще станат изключително изобилни.

Диамандис: Вие сте човек, който може да оформи бъдещето чрез практически действия и имате остър поглед върху бъдещите тенденции. Изправен пред бързото развитие на настоящите технологии, аз съм много любопитен колко далеч в бъдещето мислите, че можете да надникнете, тоест колко години на тенденции на развитие оттук нататък?

Мъск: В ерата на бързи промени способността да се предсказва бъдещето става все по-важна. Въпреки че бъдещето е пълно с несигурност, смятам, че някои тенденции са ясно видими. Ще влезем в ерата на изкуствения интелект и неговите способности ще достигнат или дори ще надминат човешките нива във всяка когнитивна задача. Това е само въпрос на време. Хората може да имат различни виждания за това дали ще бъде краят на следващата година, две години или три години. Едно обаче е сигурно, че няма да надхвърли пет години. Прогнозата ми се основава на 50% вероятност, която не е абсолютна. Но според моята преценка изкуственият интелект вероятно ще надмине способностите на всеки отделен човек в определени аспекти преди края на следващата година.

Що се отнася до това дали надминава човешката колективна мъдрост, може да отнеме повече време. Ако темпът на промяната продължи, смятам, че около 2029 или 2030 г. дигиталната интелигентност вероятно ще надхвърли сбора на цялата човешка интелигентност. Когато разглеждам тези въпроси, имам склонност да възприема метода на основните съотношения, точно като първите принципи във физиката. Като комбинираме този метод с анализ на вероятностите, можем по-точно да разберем бъдещите тенденции на развитие.

Ако сравним възможностите на цифровото изчисление с биологичното изчисление и съберем всички напреднали човешки когнитивни способности като вид изчислителна мощ и след това го сравним с цифровата изчислителна мощност, ще откриете, че темпът на растеж на това съотношение е удивителен. Следователно смятам, че 2029 или 2030 г. е разумен времеви възел. По това време натрупаната цифрова изчислителна мощност вероятно ще надмине натрупаната биологична изчислителна мощност на напреднали мозъчни функции. Оттогава разликата между двете ще продължи да се разширява и няма да има възможност да се стесни.

Но когато стоим на тази отправна точка и гледаме напред към бъдещето, как ще се развият нещата по-нататък? Честно казано, не мога да предвидя всички подробности. Но ако разгледаме факторите на растежа и ограничаващите фактори, с които те могат да се сблъскат, ще открием някои интересни улики.

Миналата година ограниченията в предлагането на чипове бяха основният ограничаващ фактор за развитието на ИИ. Тази година понижаващите трансформатори ще се превърнат в ключово тясно място. Представете си намаляване на напрежение от 300 киловолта до по-малко от 1 волт, изисквано от компютър. Това е огромно предизвикателство. Следователно се нуждаем от по-ефективни „Трансформатори за трансформатори“, които са понижаващи трансформатори или трансформатори на AI невронни мрежи. Това наистина е основен проблем тази година.

Поглеждайки напред към следващите няколко години, доставките на електроенергия може да се превърнат в основен ограничаващ фактор. Изкуственият интелект има огромно търсене на електроенергия, а преходът към устойчива енергия и популярността на електрическите превозни средства също засилиха търсенето на електроенергия. Ето защо трябва сериозно да обмислим как да отговорим на нарастващото търсене на електроенергия, за да гарантираме непрекъснатото развитие и прилагане на тези технологии.