Powstanie pierwszy polski otwarty wielki MODEL JĘZYKOWY (PLLUM)

Polski wielki model językowy PLLuM, wytrenowany na treściach głównie polskojęzycznych, oraz oparty na nim inteligentny asystent, powstaną w ramach współpracy sześciu wiodących jednostek naukowych z obszaru AI, przetwarzania języka naturalnego oraz językoznawstwa korpusowego.

[aberazioon]

Im. Jana Pawła II, najpolakszego z Polaków?

[WystraszoneWarzywo]

@aberazioon: imienia nie, ale model był trenowany tylko i wyłącznie na księgach i listach JPII

[daunowix]

@WystraszoneWarzywo: I życiorysie Wyszyńskiego, nie zapominaj o Wyszyńskim!

[dict]

No i bardzo dobrze.(╯°□°）╯︵ ┻━┻ Zarówno translator google, jak i deepl mają model językowy oparty na angielskim, który przez brak ścisłości gubi wiele informacji - z "liczbą" na przedzie (bo you w liczbie pojedynczej pisze się tak samo jak w mnogiej). Jeśli tłumaczycie "lubię was" z polskiego na fiński, to wychodzi "pidän sinusta" ("lubię cię", liczba pojedyńcza), zamiast "pidän teistä" (liczba mnoga).

Nieścisłość

[michalm23]

@dict: albo niemiecki, dzięki swojej niemal matematycznej schematyczności byłby łatwy w implementacji.

[biauekWladcaJajek]

na polski i spowrotem

@DEMONzSZAFY: tym bardziej że osoby dla których polski to język ojczysty mają z nim problem xD

[madpacman]

I cyk domena zajęta przez aftermarket.pl, spóżniłem się :(

[wodiwo]

@jusstt: dobrze, ze doczytalem zanim zadzwonilem po karetke, myslalem ze masz wylew. A potem okazalo sie, ze na szczescie to tylko Maciek z klanu dostal sie do konkutera ( ͡° ͜ʖ ͡°)

[wodiwo]

@jusstt: przekazanie dodatkowych informacji w slowach, pozwalajace na lepsze zrozumienie przekazywanych tresci. Polski jest bogatym jezykiem fleksyjnym. Pozwala na bardzo precyzyjna, wydajna komunikacje. Jesli krzykniesz "lekarza!" zamiast "lekarz!" to wiem, ze potrzebujesz pomocy, a nie z entuzjazmem obserwujesz otoczenie.

Slazacy, jako osobna grupa etniczna maja inne, prostsze umysly przystosowane do pracowania w kopalniach. Nic dziwnego wiec, ze musieli dostosowac jezyk polski do swoich mozliwosci.

[lubie_dzem_truskawkowy]

Wystarczy baza z elektrody i będzie w stanie odpowiedzieć na każde pytanie. ( ͡° ͜ʖ ͡°)

"Było, użyj szukaj, zamykam temat."

[ruonim]

@lubie_dzem_truskawkowy: Pamiętam. "było". Wtedy odpowiedziałem "było ale bez odpowiedzi i zamknięte" po czym dostałem bana :D

[Pan_Buk]

Czy będzie odpowiednio zdywersyfikowany i inkluzywny, uwzględniający polskie feminatywy? (ꖘ⏏ꖘ)

[b.....t]

@Pan_Buk:

Najważniejsze by nie blokował używania popularnych słów oznaczających ciasto i pewną roślinę czyli:

murzynek i czarnucha

[baronio]

@buont:to rowniez nazwa ciasta z owocami
http://wielkiezarcie.com/przepisy/czarnuch-30004776

[AlexRaven]

Przecież GPT rozumie i mówi po polsku jak i w wielu innych językach. Więc taki polski model będzie po prostu dużo głupszy od GPT bo do jego treningu zostanie wykorzystane mniej treści.

[kwanty]

Przecież GPT rozumie i mówi po polsku jak i w wielu innych językach. Więc taki polski model będzie po prostu dużo głupszy od GPT bo do jego treningu zostanie wykorzystane mniej treści.

@AlexRaven: Chodzi o to, żeby zrobić mniejszy model niż GPT 3/4, taki żeby dało się go lokalnie używać - na 8GB ramu albo wręcz na komórce. Dodatkowo jak przygotują dobrze dane wejściowe i będą dostępne jako open-source to kolejne

[dodd]

Przecież GPT rozumie i mówi po polsku jak i w wielu innych językach. Więc taki polski model będzie po prostu dużo głupszy od GPT bo do jego treningu zostanie wykorzystane mniej treści.

@AlexRaven: GPT, ale Llama już niezbyt, szczególnie małe wersje modeli. Z publicznie dostępnych modeli chyba tylko Falcon 180B dobrze radzi sobie z polskim, ale to wielki model, który mało kto może odpalić, a taką Llame 7B czy 13B

[okkindel]

No nie do końca pierwszy, coś takiego już powstaje i to od dłuższego czasu
https://speakleash.org/

[Protectorx]

@okkindel: NO ALE TO BĘDZIE OD POLSKICH NAUKOWCÓW
POLSKICH NAUKOWCÓW !!!!!!!
Gnije z tego typu newsów xDD
Każdy może sobie wytrenować model językowy, ludzie nawet się tym nie chwalą. Nawet ja już to zrobiłem do swoich celów mimo, że nie mam technicznego pojęcia (nie pisze tu o fine tuning chata gpt ofc).

Ot kolejny WIELKI worek na hajs dla dziadów z

[JackDaniels]

@Protectorx Ehh, coraz więcej amatorów pcha się do robienia modeli językowych... ( ͡°( ͡° ͜ʖ( ͡° ͜ʖ ͡°)ʖ ͡°) ͡°)

[imdejv1]

Czy to nakladka z API ChatGPT?, którą ktoś później będzie się chwalił tu i ówdzie jakoby "Polak potrafi" ? Pytam serio.

[jaksiepatrzy]

@imdejv1: nie, to alternatywa dla GPT

[dzikuZplasriku]

@imdejv1: XD przecież NASK nawet sprzętu nie ma żeby to policzyć PAN ma jakieś serwery Kopernika z 2017 roku gdzie jest V100

a to jest przepaść miedzy A40 lub A100 . walenie na kasę z budżet państwa to sie nazywa. Żeby przyzwoity model LLM wytrenować trzeba mieć około 64 kart z pamięcią 80GB. I TO BĘDA TYGODNIE.

jedna karta to 15 000$ - 4 000 000 Zł same karty. Problem

[LukaszZelezny]

GPTGrażyna

[biauekWladcaJajek]

@LukaszZelezny: GraPTżyna

[sciana]

Uczenie będzie nieco skomplikowane, bo model językowy będzie musiał najpierw wypić kilka flaszek wódki słuchając nauk JPII i oglądając walkę Andrzeja Gołoty z Adamem Małyszem. Inaczej nic nie pojmie.