zur Startseite zum Inhalt zur Navigation

Tokenizer

 

Tokenizer ist ein Sample das zeigt, wie z.B. ein 
Compiler einen Quellcode zerlegt, um ihn dann 
entsprechend umzusetzen.

Dadurch dass die Regeln des Parsings dynamisch 
erzeugt werden können, kann praktisch alles geparst 
werden.

Das Programm erwartet einen Text als Eingabe, 
bearbeitet diesen und gibt eine Liste der 
gefundenen Tokens zurück.

Ein Compiler würde diese Liste dann in den Syntaxbaum 
umstellen ( Was hier natürlich nicht gemacht wird ).

 

( 458 Hits )

 

  klab     affenpuzzle     projizierte_schatten     zufall     socket     genmathcalc     rsa     clear_engine     fourier     simple_font     stereoprojektion     tokenizer     dithering_filtering     gorilla     balanced2     balanced     opengltruetypefont     pingpong     graphen_algos     portal