scala - scala StdLexical 中的 Lexing 换行符？

Question

我正在尝试 lex(然后解析)类似 C 的语言。在 C 语言中有预处理器指令，其中换行符很重要，然后是实际代码，它们只是空格。

这样做的一种方法是像早期的 C 编译器一样执行两次过程 - 为 # 指令设置一个单独的预处理器，然后对它的输出进行 lex。

但是，我想知道是否有可能在单个词法分析器中完成。我很高兴编写 scala 解析器组合器代码，但我不太确定 StdLexical 如何处理空格。

有人可以写一些简单的示例代码来解释 #include 行(使用换行符)和一些简单的代码(忽略换行符)吗？或者这是不可能的，最好采用 2-pass 方法？

Answer 1

好的，我自己解决了这个问题，在这里为后代回答。

在 StdLexical 中，您已经可以在词法分析器中指定空格。您所要做的就是适本地覆盖您的 token 方法。这是一些示例代码(删除了不相关的位)

override def token: CeeLexer.Parser[Token] = controlLine 
  // | ... (where ... is whatever you want to keep of the original method)
def controlLine = hashInclude

def hashInclude : CeeLexer.Parser[HashInclude] =
  ('#' ~ word("include") ~ rep(nonEolws)~'\"' ~ rep(chrExcept('\"', '\n', EofCh)) ~ '\"' ~ '\n' |
   '#' ~ word("include") ~ rep(nonEolws)~'<' ~ rep(chrExcept('>', '\n', EofCh)) ~ '>' ~ '\n' ) ^^ {
   case hash~include~whs~openQ~fname~closeQ~eol =>  // code to handle #include
 }