MediaTek си партнира с Alibaba Cloud за големи модели мобилни чипове

източник:www.ichunt.com

Според Sci-Tech Innovation Board Daily, MediaTek, производител на чипове за смартфони, успешно е внедрил големи модели с 1,8 милиарда и 4 милиарда параметри на своите водещи чипове като Dimensity 9300, постигайки дълбока адаптация на големия модел към мобилни чипове и позволявайки на Tongyi Qianwen да изпълнява множество рундове на AI диалог дори в офлайн ситуации. В бъдеще двете страни ще адаптират още големи модели с различни размери, включително един със 7 милиарда параметри, базиран на чипа Dimensity.

Alibaba Cloud заяви, че ще работи в тясно сътрудничество с MediaTek, за да предостави крайни решения за големи модели на глобалните производители на мобилни телефони.

В момента MediaTek е полупроводниковата компания с най-голям обем доставки на чипове за смартфони в световен мащаб. Според последните данни на Canalys, тя е доставила над 117 милиона единици през четвъртото тримесечие на 2023 г., класирайки се на първо място, следвана от Apple със 78 милиона доставки и Qualcomm с 69 милиона доставки. Tongyi Qianwen е основен голям модел, разработен от Alibaba Cloud. Досега той е пуснал версии с до 100 милиарда параметри и версии с отворен код със 72 милиарда, 14 милиарда, 7 милиарда, 4 милиарда, 1,8 милиарда и 500 милиона параметри, както и мултимодални големи модели като модел за визуално разбиране Qwen-VL и аудио голям модел Qwen-Audio.

По време на MWC2024 MediaTek показа различни приложения с изкуствен интелект, включително чиповете Dimensity 9300 и 8300. Разбираемо е, че чипът Dimensity 9300 вече е поддържал приложението на големия модел със 7 милиарда параметъра на Meta Llama 2 в чужбина и е внедрен на телефони от серията vivo X100 в Китай с голям езиков модел със 7 милиарда параметъра на крайната страна и също така успешно управлява модел с 13 милиарда параметъра в експериментална среда на крайната страна.

Сътрудничеството между MediaTek и Alibaba Cloud отбелязва първия път, когато големият модел Tongyi е постигнал хардуерна и софтуерна адаптация на ниво чип. Xu Dong, бизнес ръководител на Tongyi Lab на Alibaba, обясни: „Крайният AI е един от важните сценарии за прилагане на големи модели, но е изправен пред много предизвикателства като трудности при адаптирането на хардуер и софтуер и непълни среди за разработка. Alibaba Cloud и MediaTek са преодолели поредица от технически и инженерни предизвикателства, свързани с основната адаптация и разработката на по-високо ниво, като наистина интегрират големите моделиране в мобилния чип и проучване на нов модел на внедряване на Model-on-Chip за крайния AI."

В допълнение към MediaTek, Qualcomm също активно насърчава внедряването на големи модели на мобилни устройства. На 18 март Qualcomm обяви старта на мобилната платформа Snapdragon 8s от трето поколение, която поддържа големи езикови модели с до 10 милиарда параметъра и може също така да поддържа мултимодални генериращи AI модели, включително Baichuan-7B, Gemini Nano, Llama 2 и Zhipu ChatGLM от компании като Baidu Xiriver, Google и META. Съобщава се, че Xiaomi Civi 4 Pro ще бъде първият, оборудван с мобилната платформа Snapdragon 8s.

Анализатор на индустрията за потребителска електроника заяви, че сътрудничеството между Alibaba Cloud и MediaTek означава, че местните производители на мобилни телефони вече имат алтернатива на Baidu.

Според разбирането на репортера, Honor и Samsung по-рано са обявили сътрудничество с Baidu Wenxin Yiyan. Например, най-новият водещ телефон на Samsung, серията Galaxy S24, интегрира множество възможности на големия модел Wenxin, включително обаждане, превод и интелигентно обобщение. Освен това източник разкри, че Apple в момента е в контакт с Baidu, надявайки се да използва технологията за изкуствен интелект на Baidu и вече са проведени предварителни разговори между двете страни.

Лин Дахуа, водещ учен в Лабораторията за изкуствен интелект в Шанхай, заяви, че с експоненциалния растеж на големите модели, базирани на облак, крайната страна е на път да навлезе в златен период на растеж. Сътрудничеството в края на облака ще се превърне във важна тенденция в бъдеще, като изчисленията от страна на облака ще установят тавана, а изчисленията от крайната страна ще подкрепят възприемането от широкомащабни потребители.

Според прогнозите на консултантската фирма IDC, обемът на доставките на смартфони на китайския пазар ще достигне 277 милиона единици през 2024 г., с годишен темп на растеж от 2,3%. Сред тях обемът на доставките на телефони с изкуствен интелект ще достигне 36,6 милиона, като темпът на растеж на годишна база ще надхвърли три цифри. Прилагането на големи AI модели на мобилни телефони ще става все по-широко разпространено.