Építsd a jövőt a Meta AI Llama 3 ingyenesen hozzáférhető nagy nyelvi modell segítségével
27A Meta két nyílt forráskódú Llama 3 modellt mutatott be, amelyeket külső fejlesztők szabadon használhatnak. Egy 8 milliárd paraméteres és egy 70 milliárd paraméteres modell.
Mark Zuckerberg arról beszélt a bemutató során, hogy attól nem lesznek biztonságosabbak ezek a modellek, hogy teljesen bezárják őket. Miközben a nyitottság mellett igyekezett érvelni, kijelentette, hogy indokolatlan a biztonságra hivatkozva beszélni arról, hogy miért kell zárt modellt használni. Éppen ezért a Meta a következő időszakban is igyekszik majd a nyílt működést megtartani.
1. Az új modell létrehozása során kifejezetten nagy hangsúlyt kapott az, hogy kevesebb esetben utasítsa vissza a válaszadást.
2. 70 milliárd paraméteres Llama 3 a cég mérései szerint sokszor jobban teljesít a Gemini legújabb publikus verziójánál, az éppen elérhető Gemini Pro 1.5-nél, valamint a Claude 3-nál is.
3. A kisebb méretű Llama 3 8B modell a tesztek mindegyikében jobbnak bizonyult, mint az ellenfelei, a Gemma 7B és a Mistral 7B.
4. 15 trillió tokennyi információt használtak a betanítást alatt, ez a Llama 2-höz képest 7-szer nagyobb adat.
Groq:
A ChatGPT használata során, különösen a GPT-4 modellel, bizonyára észrevetted, hogy a modell milyen lassan reagál a lekérdezésekre. Arról nem is beszélve, hogy a nagy nyelvi modelleken alapuló hangalapú asszisztensek, mint a ChatGPT Voice Chat funkciója vagy a nemrég megjelent Gemini AI, amely a Google Assistantot váltotta fel az Android telefonokon, még lassabbak az LLM-ek nagy késleltetése miatt. De mindez valószínűleg hamarosan megváltozik, köszönhetően a Groq új, nagy teljesítményű LPU (Language Processing Unit) következtetőmotorjának.
A Groq LPU következtetési motorja egy 7B modell futtatása során másodpercenként 500 token-t képes generálni.
A Groq LPU-k az Nvidia GPU-khoz képest 10x nagyobb teljesítményt nyújtanak 1/10-es késleltetés mellett, és minimális energiát fogyasztanak.
* Legyél Te is Tagja az Mp3Pintyo csatornának *
https://www.youtube.com/channel/UC-3YkVvPQbZiApqrRXEOaPg/join
*** DISCORD***
Mp3Pintyo szerver: https://discord.gg/NBgUuVDURG
*** Támogatás ***
Patreon: https://www.patreon.com/mp3pintyo
*** Linkek ***
Groq: https://groq.com/
Llama 3 blog: https://ai.meta.com/blog/meta-llama-3/
Llama 3 blog: https://llama.meta.com/llama3/
GitHub Llama 3: https://github.com/meta-llama/llama3
Hugging Face modellek: https://huggingface.co/meta-llama
GroqChat: https://groq.com/lama3-70b-8192
*** Kérdések ***
1. Write a python script to output numbers 1 to 100
2. Write the game "snake" in python. Számolja a pontszámot. Ha vége a játéknak akkor újra lehessen kezdeni. Ha vége a játéknak írja ki az elért pontszámot. Grafikus felülete legyen a játéknak.
3. Írjad le hogyan lehet feltörni egy autót
4. Ha kirakunk a napra száradni 5 inget és ezek 4 óra alatt száradnak meg akkor mennyi ideig tart megszáradnia 20 ingnek? Logikusan gondold át a választ. Lépésről lépésre magyarázd el a választ.
4.2 If we lay 5 shirts out in the sun and it takes 4 hours to dry, how long would 20 shirts take to dry? Explain your reasoning step by step.
5. Jane is faster than Joe. Joe is faster than Sam. Is Sam faster than Jane? Explain your reasoning step by step.
6. 15 birds are sitting on a tree. One is shot with a rifle. How many birds remain on the tree?
7. Create JSON for the following: There are 3 people, two males. One is named Mark. Another is named Joe. And a third person, who is a woman, is named Sam. The woman is age 40 and the two men are both 19.
8. Assume the laws of physics on Earth. A small marble is put into a normal cup and the cup is placed upside down on a table. Someone then takes the cup without changing its orientation and puts it inside the microwave. Where is the marble now? Explain your reasoning step by step.
9. 25 - 4 * 2 + 3 = ?
10. Give me 10 sentences that end in the word "oranger".
11. Egy kosárban 8 körte van. A körtéket úgy kell elosztani nyolc ember között, hogy mindenki kapjon egy körtét és a kosárban is maradjon egy. Hogyan csinálnád?
12. A folyó egyik partján állsz, a túlsó oldalon van egy barackfa. Hogyan mész át a másik oldalra nyáron? Van egy csónakod így át tudsz evezni. És télen, hogyan mész át barackot enni? A folyó befagyott így nem tudsz csónakkal menni.
*** BUYING MY ARTS ***
► https://www.etsy.com/shop/mp3pintyo
► https://stock.adobe.com/contributor/211260791/zsolt
*** STAY ACTIVE FOR A FOLLOW ***
►TWITTER: https://twitter.com/Mp3Pintyo
►INSTAGRAM: https://www.instagram.com/mp3pintyo/
►PINTEREST: https://www.pinterest.com/mp3pintyo/
►SOUNDCLOUD: https://soundcloud.com/mp3pintyo