perl - Marpa 解析器库是否支持错误恢复？

Question

我知道 Perl's "Marpa" Earley parser有很好的错误报告。

但我无法在其文档中或通过谷歌搜索找到它是否具有错误恢复功能。

例如，大多数 C/C++ 编译器都有错误恢复功能，它们用于报告多个语法错误，而其他编译器通常会在第一个错误处停止。

我实际上正在解析自然语言，并想知道是否有一种方法可以在输入的一部分失败后重新同步和恢复解析。

例如，对于那些可以理解的人:

我正在解析老挝语的音节。在老挝语中，一些元音是变音符号，它们被编码为单独的字符并呈现在前一个辅音之上。在解析来自老挝语维基百科的随机文章时，我遇到了一些这样的元音被加倍的文本。这在老挝的正字法中是不允许的，所以一定是打字错误。但我知道，在几个字符内，文本又好了。

无论如何，这是一个真实的例子，它激起了我对错误恢复或与 token 流重新同步的普遍兴趣。

Answer 1

在 Marpa 中处理错误有两种可能性。

“ ruby 拖鞋”解析

Marpa 在扫描过程中维护了很多上下文。我们可以使用这个上下文，以便解析器可以需要一些标记，并且我们可以决定是否要将它提供给 Marpa，即使它不在输入中。例如，考虑一种编程语言，它要求任何语句都以分号结尾。然后我们可以使用 Ruby Slippers 技术在特定位置插入分号，例如在行尾或右大括号之前:

use strict;
use warnings;
use Marpa::R2;
use Data::Dump 'dd';

my $grammar = Marpa::R2::Scanless::G->new({
    source => \q{
        :discard ~ ws
        Block         ::= Statement+ action => ::array
        Statement     ::= StatementBody (STATEMENT_TERMINATOR) action => ::first
        StatementBody ::= 'statement'       action => ::first
                      |   ('{') Block ('}') action => ::first
        STATEMENT_TERMINATOR ~ ';'
        event ruby_slippers = predicted STATEMENT_TERMINATOR
        ws ~ [\s]+
    },
});
my $recce = Marpa::R2::Scanless::R->new({ grammar => $grammar });

my $input = q(
    statement;
    { statement }
    statement
    statement
);

for (
  $recce->read(\$input);
  $recce->pos < length $input;
  $recce->resume
) {
    ruby_slippers($recce, \$input);
}
ruby_slippers($recce, \$input);
dd $recce->value;

sub ruby_slippers {
    my ($recce, $input) = @_;
    my %possible_tokens_by_length;

    my @expected = @{ $recce->terminals_expected };
    for my $token (@expected) {
        pos($$input) = $recce->pos;

        if ($token eq 'STATEMENT_TERMINATOR') {
            # fudge a terminator at the end of a line, or before a closing brace
            if ($$input =~ /\G \s*? (?: $ | [}] )/smxgc) {
                push @{ $possible_tokens_by_length{0} }, [STATEMENT_TERMINATOR => ';'];
            }
        }
    }

    my $max_length = 0;
    for (keys %possible_tokens_by_length) {
        $max_length = $_ if $_ > $max_length;
    }
    if (my $longest_tokens = $possible_tokens_by_length{$max_length}) {
        for my $lexeme (@$longest_tokens) {
            $recce->lexeme_alternative(@$lexeme);
        }
        $recce->lexeme_complete($recce->pos, $max_length);

        return ruby_slippers($recce, $input);
    }
}

在 ruby_slippers函数，你还可以计算你需要多久伪造一个 token 。如果该计数超过某个值，您可以通过抛出错误来放弃解析。

跳过输入

如果您的输入可能包含无法解析的垃圾，您可以尝试跳过它，否则会找不到词素。为此， $recce->resume方法接受一个可选的位置参数，正常解析将恢复。

use strict;
use warnings;
use Marpa::R2;
use Data::Dump 'dd';
use Try::Tiny;

my $grammar = Marpa::R2::Scanless::G->new({
    source => \q{
        :discard ~ ws
        Sentence ::= WORD+ action => ::array
        WORD ~ 'foo':i | 'bar':i | 'baz':i | 'qux':i
        ws ~ [\s]+
    },
});
my $recce = Marpa::R2::Scanless::R->new({ grammar => $grammar });

my $input = '1) Foo bar: baz and qux, therefore qux (foo!) implies bar.';

try { $recce->read(\$input) };
while ($recce->pos < length $input) {
    # ruby_slippers($recce, \$input);
    try   {       $recce->resume                    }  # restart at current position
    catch { try { $recce->resume($recce->pos + 1) } }; # advance the position
    # if both fail, we go into a new iteration of the loop.
}
dd $recce->value;

虽然使用 :discard 也可以达到同样的效果。匹配任何词的词素，在我们的客户端代码中进行跳过允许我们在必须做太多捏造的情况下中止解析。