Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja

Nikić, Patrick

master's thesis

Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja

Nikić, Patrick (2020)

Josip Juraj Strossmayer University of Osijek
Department of Mathematics
Chair of Applied Mathematics
Computer Science Research Group

Cite this document

APA 6th Edition

Nikić, P. (2020). Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja (Master's thesis). Retrieved from https://urn.nsk.hr/urn:nbn:hr:126:766097

MLA 8th Edition

Nikić, Patrick. "Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja." Master's thesis, Josip Juraj Strossmayer University of Osijek, Department of Mathematics, 2020. https://urn.nsk.hr/urn:nbn:hr:126:766097

Chicago 17th Edition

Harvard

Nikić, P. (2020). 'Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja', Master's thesis, Josip Juraj Strossmayer University of Osijek, Department of Mathematics, accessed 30 May 2020, https://urn.nsk.hr/urn:nbn:hr:126:766097

Vancouver

Nikić P. Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja [Master's thesis]. Osijek: Josip Juraj Strossmayer University of Osijek, Department of Mathematics; 2020 [cited 2020 May 30] Available at: https://urn.nsk.hr/urn:nbn:hr:126:766097

IEEE

P. Nikić, "Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja", Master's thesis, Josip Juraj Strossmayer University of Osijek, Department of Mathematics, Osijek, 2020. Available at: https://urn.nsk.hr/urn:nbn:hr:126:766097

Cite this item: https://urn.nsk.hr/urn:nbn:hr:126:766097

Islandora Bookmark - Please login to use this feature

Metadata

Title	Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja
Title (english)	Modeling Word Representations and Dependency Parsing with Machine Learning Techniques
Author	Patrick Nikić
Mentor	Domagoj Ševerdija (mentor)
Committee member	Domagoj Matijević (predsjednik povjerenstva)
Committee member	Domagoj Ševerdija (član povjerenstva)
Committee member	Zoran Tomljanović (član povjerenstva)
Granter	Josip Juraj Strossmayer University of Osijek Department of Mathematics (Chair of Applied Mathematics) (Computer Science Research Group) Osijek
Defense date and country	2020-01-17, Croatia
Scientific / art field, discipline and subdiscipline	NATURAL SCIENCES Mathematics Mathematical Logic and Accounting
Abstract	U novije vrijeme, prisutna je renesansa neuronskih mreža. Njihova osnovna građevna jedinica jest neuron. Neuron možemo shvatiti kao metodu kojom ćemo odvagnuti ulazne informacije za donošenje neke odluke. Neurone grupiramo u slojeve, a više takvih slojeva čini neuronsku mrežu. U prvom poglavlju smo opisali kako neuronske mreže uče te algoritme i tehnike koje se pritom koriste. Glavni dio diplomskog rada se bavi primjenom strojnog učenja u obradi prirodnog jezika. Opisali smo kako se riječi mogu predstaviti pomoću vektora koji što bolje obuhvaćaju strukturu riječi, značenje i kontekst riječi te hijerarhije medu riječima. Vektori riječi su u vektorskom prostoru smješteni tako da riječi koje se nalaze u sličnom kontekstu, imaju slične vektore. Objasnili smo algoritme i metode treniranja koje word2vec koristi. Konačno, pokazali smo kako vektore riječi možemo koristiti za parsiranje meduovisnosti izmedu riječi u rečenici. Opisali smo pohlepni parser temeljen na prijelazima koji se za ovaj zadatak trenira koriste´ci neuronsku mrežu. Naposljetku, prikazali smo rad trenutno najboljih poznatih parsera međuovisnosti za hrvatski jezik, treniranih na jednom hrvatskom označenom korpusu.
Abstract (english)	Recently, there is a renaissance of neural networks. Their fundamental working unit is a neuron. We can think of a neuron as method for weighing input informations in order to make a decision. We can group neurons in layers that form neural networks. In the first section we described how neural networks learn, together with the algorithms and techniques used in the background. The main part of the paper deals with the application of machine learning in natural language processing. We described how words can be represented with vectors that best capture the word structure, semantics and context as well as the hierarchies among words. Word vectors are placed in the vector space such that words that share common contexts, have similar vectors. We explained the algorithms and training methods that word2vec uses. Finally, we showed how to use word vectors for parsing the dependencies between words in a sentence. We described a greedy transition-based parser that is trained for this task using a neural network. Lastly, we presented the results of cutting-edge parsers for Croatian that were trained on a Croatian annotated corpus.
Keywords
Keywords (english)
Language	croatian
URN:NBN	urn:nbn:hr:126:766097
Study programme	Title: Mathematics; specializations in: Financial and Statistical Mathematics, Mathematics and Computer Science, Industrial and Applied Mathematics Course: Financial and Statistical Mathematics Study programme type: university Study level: graduate Academic / professional title: magistar/magistra matematike (magistar/magistra matematike)
Type of resource	Text
File origin	Born digital
Access conditions	Open access
Terms of use
Created on	2020-01-29 08:16:52