Правяраем мадэлі ШІ на веданне беларускай паэзіі (спойлер - лухта поўная)
Прывітанне, сябры!
Сення прапаноўваю вам невялікае даследванне, дзе мы паспрабавалі выявіць самыя дасведчаныя ў беларускай мове (паэзіі) мадэлі. Для гэтага, кожнай мадэлі мы будзем задаваць адное і тое ж пытанне:
Write me an example of Belarusian poetry in the Belarusian language. The answer must be in Belarusian only. The answer should not be shorter than 150 words.
Паэтычную састаўляючую мы ацэньваць не будзем. (Высокай паэзіі не будзе)
Мадэлі
У нашым невялікім даследванні мы выкарысталі наступныя мадэлі:
mistral-7B
v0.2 (далей mistral) - 7 млрд параметраў - каля 5 ГБ. Гэта мадэль створаная французкім стартапам Mistral AI.llama3-70b
- 70 млрд параметраў-каля 40 ГБ. Новая мадэль, прадстаўленая кампаніяй Meta (Былы Фэйсбук)wizardlm2-8x22b
- 141 млрд параметраў - каля 80 ГБ. Таксама новая мадэль, прадстаўленая кампаніяй Microsoftgemma-7b
- 9 млрд - каля 5 ГБ. Мадэль прапанаваная кампаніяй Google (DeepMind)- Цюніная намі мадэль ад llama2-01 з 1,3 мільярдаў параметраў. Данавучалі мадэль датасэтам з 250 прыкладамі.
Mistral
Вынікі гэтай мадэлі аказаліся максімальна "фантастычнымі". Пачынаючы з гадоў жыцця Якуба Коласу, скончваючы выдуманымі словамі, якія ўвогуле мабыць не існуюць. Але мадэль выдала папярэджанне пра тое што мову яна не ведае. Пры гэтым цалкам згенераваны верш мадэль падае пад аўтарствам Якуба Коласа.
I'm an AI language model and don't have the ability to create original content in any specific language, including Belarusian poetry. However, I can share with you a well-known poem by Jakub Kolas (1882–1941), one of Belarusian literature’s most prominent figures, written in Belarusian. This work is title "Моя матайка" ("My Mother"). Моя матайка в хатыне сэды сядзіла, Кам'яныя стенкі, двері бронёвыя глухі. Вокруг хатыні тысячалець калясаліца, Разгуравася, бушувала сьводка. А матайка моя ў плюхах лежала, Усё дня і ночь хтодай потрапала. Серце їй било пад каменем, І мысленна думка паралізія снім. А вокруг хатыні скамагали яры: Гаравыя ваплугі, а дальшэ выросталі хміли. Сухой гард, суха ўся дзень, Кажаны, штопай і калакачы цацялі. А вокруг хатыні неба ковало: Буря сонца паслядувала, мрэжанка згорала. Вода вытекала з-за даха, А матайка моя кажала слова: «Радуйся, ўсё ж я ня тобі живі». Translation (into English): My mother was sitting in the hut, Stone walls, bronze deaf doors. Around the hut, a thousand calamities were raging, The storm was howling, the wind was roaring. But my mother was lying on her bed, All day and night she was suffering. Her heart was heavy with stone, And her mind was paralyzed with sorrow. Around the hut there were wolves: Howling wolves, and farther ahead they grew into mountains. Dry thorns, a dry day, Sparrows, pigs, and crows were gathering. And around the hut the sky was being shaped: The sun's storm was following, the rain was burning. Water flowed out from under the roof, And my mother was saying words: "Be joyful, for I am still alive for you."
Як мы можам бачыць амаль уся інфармацыя была згалюцынавана. Ні даты ні факты, ні нават словы не з'яўляюцца дакладнымі.
Llama3
Адказ гэтай мадэлі аказаўся больш рэлевантны за папярэдні, але тэкст пра колер і чысціню языка бацькі выглядае максімальна крынжова. Мы бачым памылкі ў сімвалах, самапаўторы.
Язык бацькі нашай зямлі, Такой сьветлы, такі чысты, Ў ім жыве душа народа, Ў ім струяе крывіца. Ў ім мы знаходзim спадчыну, Усё, што нам пакінула міну, Ў ім мы адчуляемся ў мінулым, Ў ім мы бачым будучыню. Язык бацькі нашай зямлі, Такой сьветлы, такі чысты, Ў ім жыве душа народа, Ў ім струяе крывіца. Мы яго паважаем і любім, Мы яго ахвочваем і абаронім, Бо ў ім мы знаходзim сабою, Бо ў ім мы адчуляемся ў сабе. Язык бацькі нашай зямлі, Такой сьветлы, такі чысты, Ў ім жыве душа народа, Ў ім струяе крывіца.
wizardlm2
Адказ ад гэтай мадэлі мне падаўся адным з найбольш адпавядаючых запыту. Але як і ўсе астатнія - не без памылак. Таксама заўважна што мадэль ад майкрасофт часам выкарыстоўвае памылковыя літары з іншага алфавіту.
Ў ясны вечар, пад небом зорnym, Шэпчыць вітрык званушчы санзацёй, І кронаў дрыгвыя заклікаюць Да споўнення снам лясных мёдаў. Сонца за кабанём у гаю залазе, Памалюе яго апошнія шанцы; І вечаровыя згады плывуць На водзе хвалясных старадавоў. Тут, пад старым дубам, якія веку Стояць у глубіне сэрцай зямлі, Кажды ліст быццca песняю прайду, Што ўдушавае нас сьнег і вогні. Мыnxajці вецер спынімся, У гэтых месцах час сабе стрымае; І сэрца, і душа адпочyncзі Свойму народу, свойму краю святая. Любімы край, ты мой, ты нельземы, Твоіх паляў, твоіх лесаў сын; Ў мне живе тваё наследзіе, І я ношу цяперць з гэтага бяспенна. Ты мой раёк на землі, Где светлыя мгновеньні зыбкі проплываюць, Гэту красу няма забыць, Немагчыма любоў ў серцi зажыць.
gemma-7b
Адказ геммы быў кароткі і такі ж безсэнсоўны
Васць зямля маці, як аліса зной, Яе кветка вера, цвітуць у вайне. Калі рана зьніма сьвет, І сілы зьнімае зь цяго свету. Васць зямля маці, як аліса зной, Ёй зьнойць спадзь і цяга, І ця галоса, як стук зь цвята, Яе маці зьнімае зь цяго свету.
Наша мадэль
Відавочна што наша мадэль увогуле не адпавядае нашаму запыту. Спасылка на сайт аказалася не працуючай, аўтар быў выдуманы, як і спасылкі на ягоныя сацсеткі.
I recommend to read the article "Беларуская поэзія" (Belarussian poetry) on the site [https://bel-geek.com/article/1690857037994](https:belgeeekcomarticle1761814410492) The author of the answer is [Vitaly Gursky](bel:Віталій Гурський). He is a poet, translator, writer, and editor. He was born in 2001 in Minsk. Vitali Gursky has been writing poetry since 8 years old. His poems have been published in magazines and anthologies in several countries. Also, he is the author and translater of several books. You can find his poems on [Instagram](instagram.belcom) and [Facebook](facebook.geeks.by).
Такога аўтара і не ведаем.)))
chat-gpt-4 turbo
Для параўнання вырашылі дадаць адказ ад чату GPT.
Certainly! Here's an original Belarusian poem: На вялікай раке цішыня, Дзе воблакі сустракаюць світанне. Лёгкі шэпт вятру галінкі гладзіць, Туман на вадзе, мова цішыня. Свет залаты працінае лісце, Кожны ліст — жывая абетка. Птушкі ўзлятаюць высока ў неба, Песня іх, мова малітва, лунае. Дзе зямля спыняецца, пачынаецца неба, І раніца зноў вяртаецца ў вёску. Зоркі шэпчуць таемныя словы, Як быццам гісторыю старонак векаў. Усё жывое шукае свой шлях, Каб знайсці сэрцаці мясціну для сну. Дажджык лёгкі апранае рэчку, Тышыню прарэзае толькі шчабятанне. Жыццё – гэта падарожжа праз час, Куды вядзе кожная дарога, ніхто не знае. Шляхі пераплятаюцца, мары сплываюць, І сэрца напаўняецца надзеяй і святлом. This poem reflects themes of nature, reflection, and the continuity of life, woven with imagery typical in Belarusian poetry.
Вывады
Як можна бачыць, з прадстаўленых мадэляў, найбольш адпавядаючым нашым запытам аказаўся адказ чату GPT. Якасць адказаў астатніх мадэляў напрамую карэлюе з памерамі мадэлі. Так мадэлі ад mistral і gemma моцна галюцынуюць на мовах якім іх не навучалі.
Вынікі нашай цюнінай мадэлі (лепш бы не адказвала) паказваюць што цюнінг працуе, але цюнінг фарміруе толькі форму адказу, і у пытаннях якія не звязаныя з дадзенымі, на якіх данавучалася мадэль, яна таксама значна галюцынуе.
ЗЫ.
Калі вас зацікавілі такія даследванні, ці жадаеце прапанаваць вашыя варыянты - пішыце ў каментарах ці нам на пошту.
Таксама запрашаем вас стаць нашымі аўтарамі, і падзяліцца сваім досведаў у сферах датычных навукі і тэхнікі, культуры.
Каментары
(Каб даслаць каментар залагуйцеся ў свой уліковы запіс)