nrw.social ist einer von vielen unabhängigen Mastodon-Servern, mit dem du dich im Fediverse beteiligen kannst.
Wir sind eine freundliche Mastodon Instanz aus Nordrhein-Westfalen. Ob NRW'ler oder NRW-Sympathifanten, jeder ist hier willkommen.

Serverstatistik:

2,8 Tsd.
aktive Profile

#Benchmark

0 Beiträge0 Beteiligte0 Beiträge heute

🐧 Linux providing a better gaming performance than Microsoft Windows is no longer of any kind of anomaly ✅

AMD Radeon RX 9070 XT / Linux kernel 6.14 / Mesa 25 benchmarked on Arch Linux (Steam OS bases on BTW) vs. Windows 11.

👉 youtu.be/KY7E-pj7UYc

youtu.be- YouTubeAuf YouTube findest du die angesagtesten Videos und Tracks. Außerdem kannst du eigene Inhalte hochladen und mit Freunden oder gleich der ganzen Welt teilen.
#Linux#vs#Windows11

#Mozilla stellt #Benchmark für lokale #KI vor.

Mozilla stellt mit #LocalScore einen einfach einsetzbaren #Benchmark für lokale #KI vor. Der Benchmark ist im Rahmen des Projekts Mozilla Builders entstanden, über das Mozilla-Blogger Sören Hentzschel im vergangenen Jahr berichtet hat. Im Rahmen der Initiative Mozilla Builders Accelerator wurden Förderungen für Open-Source-Projekte zum Thema Lokale KI ausgelobt.

linuxnews.de/mozilla-stellt-be

Llamafile
LinuxNews.de · Mozilla stellt Benchmark für lokale KI vor
Mehr von LinuxNews.de
Fortgeführter Thread

Indeed, the CPU-only performance is even worse. The LocalScore on the tiny 1B model is only 16, with a text generation speed of 7.7 tokens/second.

localscore.ai/result/235

Let's see if I can run this on a Raspberry Pi for comparison...

www.localscore.aiLocalScore - Test #235 ResultsLocalScore benchmark results for test #235. This is for the accelerator Intel Core i7-8550U CPU @ 1.80GHz (skylake)
#LocalScore#llm#benchmark

My hobby: running LocalScore.ai to benchmark how fast (ehm) my 2018 laptop runs a tiny 1B LLM. The laptop has a NVIDIA MX150 mobile GPU, 2GB VRAM. I guess it was intended for Photoshop filters or CAD stuff.

I got a LocalScore of 101 on the tiny model using the GPU (13.5 tokens/second for generation). A value of around 1000 is considered passable.

localscore.ai/accelerator/234

Still, I think it's marginally better than CPU-only on the same laptop.

www.localscore.aiNVIDIA GeForce MX150 ResultsLocalScore benchmark results for NVIDIA GeForce MX150 with 2GB of memory.
#llm#benchmark#LocalLlama

Sehen wir uns morgen zur gemeinsamen Lunchbreak@Incubator Funds?

Morgen stellen sich folgende zwei Projekte vor:

Embodied Interpretathon - Crowdbasierte Interpretation von mittelalterlichen
Bewegungsbeschreibungen
(Dr. Eric Burkart)
&
Aufbau und Bereitstellung eines Benchmark-Datensatzes von
historischen Tabellen (1750-1990) (Prof. Dr. Werner
Scheltjens)

🗓️ Di. 25.03.25
⏰ 12:30-13:30 (s.t.)
📍bbb.rlp.net/rooms/ttu-ktp-njp-

Moinsen. Gibt es hier Menschen mit einem Apple Laptop und einer M4 CPU mit mehr als 16GB RAM? Ich wuerde gerne wissen, wie LM Studio mit dem QWEN 2.5 7b Instruct so performed. Ich habe ein M1 Pro (8/14) und 16GB Ram. Wuerde gerne wissen, wie auf einen M4 (normal) so die Tokengeneration ist.