multithreading - Perl 线程和不安全信号

Question

所以我最近想线程化我的一个 Perl 程序来提高它的速度。获取网站列表，我想为每个 url 启动一个线程并获取每个网站的内容，然后在页面上查找公司描述。一旦一个线程找到结果，或者所有线程都没有，我想退出，写下我的结果，然后读入我下一家公司的网址。

我看到的问题是我在创建线程时调用的函数内部使用了 Perl::Unsafe::Signals 模块。我需要不安全的信号来中断“卡住”的正则表达式。然而，这似乎会导致各种问题，主要是程序崩溃和错误消息“闹钟”显示。

因此，有没有办法安全地使用 Perl::Unsafe::Signals 和线程？有没有办法通过向函数发送信号来以另一种方式使正则表达式超时(就像我在下面发送“KILL”信号？)谢谢。

注意:我将代码剥离到所有相关部分，如果您需要更多，请告诉我。

use threads ('exit' => 'threads_only');
use threads::shared;
my @descrip;
share(@descrip);

my $lock;
share($lock);

URL:foreach my $url(@unique_urls) {
        #skip blank urls
        if(!$url) { next URL; }#if

        #find description
        my $thread = threads->create(\&findCompanyDescription, $PREV_COMPANY, $PREV_BASE_URL, $url);

#while a description has not been found and there are still active threads, keep looking
#there may be a better way to do this, but this seems to work for me
while(!@descrip && threads->list() != 0) {;}

#kill all threads, write output, read in next batch of urls
my @threads = threads->list();
foreach(@threads) { print("detaching\n"); $_->kill('KILL')->detach(); }#foreach

#######线程创建调用的子程序

sub findCompanyDescription {
    my($company_full, $base_url, $url) = @_;
    my($descrip, $raw_meta, $raw) = '';
    my @company;

    $SIG{'KILL'} = sub { alarm(0); threads->exit(); };

    eval {
        local $SIG{ALRM} = sub { die("alarm\n") }; # NB: \n required
        alarm(5);

        use Perl::Unsafe::Signals;
        UNSAFE_SIGNALS {

            while($company) {
            my @matches = ($content =~ m!.*<([\w\d]+).*?>\s*about\s+$company[\w\s\-_]*<.*?>(?:<.*?>|\s)*(.*?)</\1.*?>!sig);

            MATCH:for(my $ndx=1; $ndx<@matches; $ndx+=2) {
            ($raw, $descrip) = &filterResult($matches[$ndx], $company_full);

            if($descrip) {
                $company = undef;
                last(MATCH);
            }#if
        }#for

        #reduce the company name and try again
        $company = &reduceCompanyName($company);

        }#while

        alarm(0);
         };#unsafe_signals
    };#eval 

    if($@) {
        if($@ eq "alarm\n" && $DEBUG) { print("\nWebpage Timeout [].\n"); }#if
    }#if

    if($descrip) { lock($lock); {
       @descrip = ($PREV_ID, $company_full, $base_url, $url, 1, $raw, $descrip); } 
    }#if

Answer 1

一般来说，“不安全”信号对于单线程和多线程都是不安全的。使用线程和不安全信号只会增加风险。 Perl 常用的安全信号处理程序设置标志 signal_pending没有有意义地中断执行。 VM 在操作码之间检查该标志。

您的正则表达式执行是一个单一的“原子”操作码。当然，正则表达式本身是另一个具有自己操作码的 VM，但我们目前无法看到 perl 信号处理程序。

坦率地说，我不知道如何中断正则表达式引擎。它有一些全局 C 状态，过去在 perl-5.10 之前阻止它重入。像您正在尝试的通用可中断性可能不安全。如果您真的希望它完全可中断，您可能希望 fork 并让您的子进程执行正则表达式并通过管道将结果传回。

require JSON;
require IO::Select;

my $TIMEOUT_SECONDS = 2.5; # seconds

my ( $read, $write );
pipe $read, $write;

my @matches;
my $pid = fork;
if ( $pid ) {

    my $select = IO::Select->new( $read );
    if ( $select->can_read( $TIMEOUT_SECONDS ) ) {
        local $/;
        my $json = <$read>;
        if ( $json ) {
            my $matches_ref = JSON::from_json( $json );
            if ( $matches_ref ) {
                @matches = @$matches_ref;
            }
        }
    }
    waitpid $pid, 0;
}
else {
    my @r = $content =~ m!.*<([\w\d]+).*?>\s*about\s+$company[\w\s\-_]*<.*?>(?:<.*?>|\s)*(.*?)</\1.*?>!sig;
    my $json = JSON::to_json( \ @r );
    print { $write } $json;
    close $write;
    exit;
}