こりゃすごい。なんじゃこの性能状態。

【Appleの新しいOpenELMモデルをMLX LMで】
512トークン、340Token/S

M3 Pro Mac (64GB)で16ビットの270Mモデルで超高速ローカルLLMが実現。

これ、ローカルLLMでこの性能はPhi-3やLlama3の7Bなど見てきたがMac単体でこれはスゴすぎる。…

OpenELM (small 270M version) converted to Core ML, running on my M1 at 56 tok/s.

MLX running OpenELM on an iPhone.

Thanks for the framework Awni Hannun

اپل مدل openELM رومنتشر کرده که نیاز به دیپلومنت کلاود نداره.من فقط خبرشو خوندم خودم اصلا هیچی تست نکردم.
تست میکنم یه مقاله ی درموردش مینویسم 📿
ولی سبحان الله اپل یه چیز اوپن سورسی ریلیز کرد بالاخره.
github.com/CarperAI/OpenE…

It’s exciting to see Apple’s commitment to opensource AI research lately. From a new awesome ml framework (mlx) to a family of purely open models (openELM) and incredibly visionary papers (LLMs in a flash, MM1) not mention the vibrant OSS community behind mlx - all alpha signs:)

Apple OpenELM is now #1 trending model on HF! huggingface.co/models

Apple is democratizing AI development with OpenELM: Fully open-source

medium.com/@AhmedF/openel…

I also sat down this weekend to summarize the latest LLM releases. What a month! We had four major open LLM releases: Mixtral, Meta AI's Llama 3, Microsoft's Phi-3, and Apple's OpenELM. In my new article (magazine.sebastianraschka.com/p/how-good-are…), I review and discuss all four of these major…

Another update to ecosystem graphs, which tracks the most prominent foundation models, datasets, and applications:
crfm.stanford.edu/ecosystem-grap…
As the name implies, ecosystem graphs tracks dependencies - e.g., Gemini -> Med-Gemini, RefinedWeb -> OpenELM, etc.

MoD with OpenELM:

initial attempt encountered NaN after 8 hours or so.
I found the router score, which is multiplied with the residual, can go **very** high

with a normalization layer before the linear router, it significantly stabilizes the router score

Apple تعلن عن نموذج يمكن تشغيله على iPhone

أعلنت شركة أبل عن نموذج لغة كبير مفتوح المصدر يسمى OpenELM

•نموذج OpenELM متاح بأربعة أحجام مختلفة (270 مليون، 450 مليون، 1.1 مليار، 3 مليارات).

•يعتمد على بنية Transformer مع تقنية مقياس الطبقة لتحسين الكفاءة.

•يتفوق على نماذج…

#OpenELM shines in performance:
✅ Outperforms similar competitors in accuracy
✅ Efficient use of resources
Learn more about Apple's innovative approach to #AI :
medium.com/@AhmedF/openel…

Apple introduced OpenELM

OpenELM ranges from 270 million to 3 billion parameters, with the smallest model being capable of running on a smartphone.

MoD version of OpenELM on 2x 3090.
initial run with MoD encountered NaN after 8 hours or so, turned` out the router score, which is used to multiply the residual, can go **very** high
I found that adding a normalization layer before the router (linear) stabilizes it

AI 模型社区推荐
OpenELM - Apple & Communities

Apple OpenELM 系列模型推出一周后，也占领了 Hugging Face 模型趋势榜单的榜首！

推荐两个社区版本的 OpenELM，期待社区的力量能让 OpenELM 端侧性能持续提升，拓展端侧可用场景 👇
1. MLX Community - 基于 mlx-lm 训练 MacOS M 系列芯片适用大模型…

Carlos Santana Así será Carlos: actualmente la librería MLX y el uso de los nuevos modelos como OpenELM están dando resultados muy buenos enfocado en ejecución en local en los dispositivos. De hecho, Apple ha puesto aceleradores ML en la propia CPU para procesos que no usen la API CoreML y por…

Apple's OpenELM: Transforming AI Development with a Groundbreaking Language Model

#AI #AI technology #AndrewNg #artificialintelligence #baselinemodels #dataprep #datasets #framework #instructiontunedvariants #languagemodel #layerwiseattentionscaling
multiplatform.ai/apples-openelm…

🎙️
#نشرة_السبت التقنية
من نادي كلية علوم وهندسة الحاسب الآلي بـ #جامعة_طيبة تأتيكم أسبوعياً بمستجدات التقنية.
يتحدثون هذا الأسبوع عن:
أبل تحدث iPadOS، جوجل في محاكمة احتكار، إطلاق مركز ذكاء اصطناعي عربي بمجمع الملك سلمان، وتطوير أبل لـ OpenELM.

امسحوا الـQR المرفق
للاستماع🎧

[Podcast] Dati sbloccati - SketchUp OpenELM OpenCDE | 259 #ai #Apple #Architetto #architettodigitale #Architettura #Architettura imperfetta #Autodesk #BIM #googleimagefx #opencde #openelm #Podcast #Professione #Progettazione #Snap #Software #Tecnologia marchdotnet.wordpress.com/2024/05/13/pod…