Das Programm Lex wird im Übersetzerbau benutzt, um Scanner für die lexikalische Analyse von Quelltexten zu erstellen. Ein lexikalischer Scanner ist Teil eines Übersetzers.
Lex wird oft in Kombination mit Yacc, der für die syntaktische Analyse zuständig ist, genutzt.
Lex wurde Mitte der 1970er Jahre an den Bell Labs von Mike Lesk in C programmiert; die Regex-Behandlung stammte von Al Aho und Ken Thompson. Im Sommer 1976 wurde das Programm von dem damaligen Bell-Labs-Praktikanten Eric Schmidt neu implementiert.
Arbeitsweise
Damit Lex ein Analyseprogramm generieren kann, muss eine Beschreibungsdatei erstellt werden. In dieser Datei werden sogenannte Token mittels regulärer Ausdrücke definiert.
Hier ein Beispiel einer solchen Datei:
%{
#include "y.tab.h"
extern int yylval;
%}
%%
"=" { return EQ; }
"!=" { return NE; }
"+" { return PLUS; }
"-" { return MINUS; }
";" { return SEMICOLON; }
"print" { return PRINT; }
[0-9]+ { yylval = atoi(yytext); return NUMBER; }
...
Das resultierende Analyseprogramm liest den Quellcode des zu kompilierenden Programmes ein und teilt diesen in Token ein. Sollte dies nicht möglich sein, liegt ein lexikalischer Fehler vor. Die Token werden dann dem syntaktischen Analyseteil bzw. -programm eines Übersetzers übergeben.
Beispiel
Für einen Beispiel-Quelltext wie
print 15+5;
sind die Token:
- (PRINT, )
- (NUMBER, 15)
- (PLUS, )
- (NUMBER, 5)
- (SEMICOLON, )
Es ist zu beachten, dass Lex keine Kenntnis von erlaubter Syntax hat. Konkret bedeutet dies, dass der Beispielcode
15+ print; 5
ebenfalls in dieselben Token überführt würde (jedoch in anderer Reihenfolge).
Siehe auch
Literatur
- Herold, Helmut: lex & yacc. Die Profitools zur lexikalischen und syntaktischen Textanalyse. Addison-Wesley, 2003, ISBN 3-82732-096-8.
- lex & yacc, O'Reilly. ISBN 1-56592-000-7.
- M. E. Lesk, E. Schmidt: Lex — A Lexical Analyzer Generator, Computing Science Technical Report No. 39, Bell Laboratories, Murray Hill, New Jersey 07974 (Oktober 1975).
Weblinks
- The Lex & Yacc Page (englisch)
- Offizielle Homepage des flex (englisch)
lex: generate programs for lexical tasks – Open Group Base Specificationflex(1): fast lexical analyzer generator – OpenBSD General Commands Manual