trunk/cgi-bin/pgstatus.pl

   1 #!/usr/bin/perl
   2
   3 use strict;
   4
   5 use vars qw($dbhost $dbname $dbuser $dbpass $dbport
   6        $all_stat $fail_stat $change_stat $green_stat
   7        $server_time
   8            $min_script_version $min_web_script_version
   9        $default_host
  10 );
  11
  12 # force this before we do anything - even load modules
  13 BEGIN { $server_time = time; }
  14
  15 use CGI;
  16 use Digest::SHA1  qw(sha1_hex);
  17 use MIME::Base64;
  18 use DBI;
  19 use DBD::Pg;
  20 use Data::Dumper;
  21 use Mail::Send;
  22 use Safe;
  23 use Time::ParseDate;
  24 use Storable qw(thaw);
  25
  26 require "$ENV{BFConfDir}/BuildFarmWeb.pl";
  27 my $buildlogs = "$ENV{BFConfDir}/buildlogs";
  28
  29 die "no dbname" unless $dbname;
  30 die "no dbuser" unless $dbuser;
  31
  32 my $dsn="dbi:Pg:dbname=$dbname";
  33 $dsn .= ";host=$dbhost" if $dbhost;
  34 $dsn .= ";port=$dbport" if $dbport;
  35
  36 my $query = new CGI;
  37
  38 my $sig = $query->path_info;
  39 $sig =~ s!^/!!;
  40
  41 my $stage = $query->param('stage');
  42 my $ts = $query->param('ts');
  43 my $animal = $query->param('animal');
  44 my $log = $query->param('log');
  45 my $res = $query->param('res');
  46 my $conf = $query->param('conf');
  47 my $branch = $query->param('branch');
  48 my $changed_since_success = $query->param('changed_since_success');
  49 my $changed_this_run = $query->param('changed_files');
  50 my $log_archive = $query->param('logtar');
  51 my $frozen_sconf = $query->param('frozen_sconf') || '';
  52
  53 my $content =
  54         "branch=$branch&res=$res&stage=$stage&animal=$animal&".
  55         "ts=$ts&log=$log&conf=$conf";
  56
  57 my $extra_content =
  58         "changed_files=$changed_this_run&".
  59         "changed_since_success=$changed_since_success&";
  60
  61 unless ($animal && $ts && $stage && $sig)
  62 {
  63         print
  64             "Status: 490 bad parameters\nContent-Type: text/plain\n\n",
  65             "bad parameters for request\n";
  66         exit;
  67
  68 }
  69
  70 unless ($branch =~ /^(HEAD|REL\d+_\d+_STABLE)$/)
  71 {
  72         print
  73             "Status: 492 bad branch parameter $branch\nContent-Type: text/plain\n\n",
  74             "bad branch parameter $branch\n";
  75         exit;
  76
  77 }
  78
  79
  80 my $db = DBI->connect($dsn,$dbuser,$dbpass);
  81
  82 die $DBI::errstr unless $db;
  83
  84 my $gethost=
  85     "select secret from buildsystems where name = ? and status = 'approved'";
  86 my $sth = $db->prepare($gethost);
  87 $sth->execute($animal);
  88 my ($secret)=$sth->fetchrow_array();
  89 $sth->finish;
  90
  91 my $tsdiff = time - $ts;
  92
  93 my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime($ts);
  94 $year += 1900; $mon +=1;
  95 my $date=
  96     sprintf("%d-%.2d-%.2d_%.2d:%.2d:%.2d",$year,$mon,$mday,$hour,$min,$sec);
  97
  98 if ($ENV{BF_DEBUG} || ($ts > time) || ($ts + 86400 < time ) || (! $secret) )
  99 {
 100     open(TX,">$buildlogs/$animal.$date");
 101     print TX "sig=$sig\nlogtar-len=" , length($log_archive),
 102         "\nstatus=$res\nstage=$stage\nconf:\n$conf\n",
 103         "tsdiff:$tsdiff\n",
 104         "changed_this_run:\n$changed_this_run\n",
 105         "changed_since_success:\n$changed_since_success\n",
 106         "frozen_sconf:$frozen_sconf\n",
 107         "log:\n",$log;
 108 #    $query->save(\*TX);
 109     close(TX);
 110 }
 111
 112 unless ($ts < time + 120)
 113 {
 114     my $gmt = gmtime($ts);
 115     print "Status: 491 bad ts parameter - $ts ($gmt GMT) is in the future.\n",
 116     "Content-Type: text/plain\n\n bad ts parameter - $ts ($gmt GMT) is in the future\n";
 117         $db->disconnect;
 118     exit;
 119 }
 120
 121 unless ($ts + 86400 > time)
 122 {
 123     my $gmt = gmtime($ts);
 124     print "Status: 491 bad ts parameter - $ts ($gmt GMT) is more than 24 hours ago.\n",
 125      "Content-Type: text/plain\n\n bad ts parameter - $ts ($gmt GMT) is more than 24 hours ago.\n";
 126     $db->disconnect;
 127     exit;
 128 }
 129
 130 unless ($secret)
 131 {
 132         print
 133             "Status: 495 Unknown System\nContent-Type: text/plain\n\n",
 134             "System $animal is unknown\n";
 135         $db->disconnect;
 136         exit;
 137
 138 }
 139
 140
 141
 142
 143 my $calc_sig = sha1_hex($content,$secret);
 144 my $calc_sig2 = sha1_hex($extra_content,$content,$secret);
 145
 146 if ($calc_sig ne $sig && $calc_sig2 ne $sig)
 147 {
 148
 149         print "Status: 450 sig mismatch\nContent-Type: text/plain\n\n";
 150         print "$sig mismatches $calc_sig($calc_sig2) on content:\n$content";
 151         $db->disconnect;
 152         exit;
 153 }
 154
 155 # undo escape-proofing of base64 data and decode it
 156 map {tr/$@/+=/; $_ = decode_base64($_); }
 157     ($log, $conf,$changed_this_run,$changed_since_success,$log_archive, $frozen_sconf);
 158
 159 if ($log =~/Last file mtime in snapshot: (.*)/)
 160 {
 161     my $snaptime = parsedate($1);
 162     if ($snaptime < (time - (10 * 86400)))
 163     {
 164         print "Status: 493 snapshot too old: $1\nContent-Type: text/plain\n\n";
 165         print "snapshot to old: $1\n";
 166         $db->disconnect;
 167         exit;
 168     }
 169 }
 170
 171 ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = gmtime($ts);
 172 $year += 1900; $mon +=1;
 173 my $dbdate=
 174     sprintf("%d-%.2d-%.2d %.2d:%.2d:%.2d",$year,$mon,$mday,$hour,$min,$sec);
 175
 176 my $log_file_names;
 177 my @log_file_names;
 178 my $dirname = "$buildlogs/tmp.$$.unpacklogs";
 179
 180 my $githeadref;
 181
 182 if ($log_archive)
 183 {
 184     my $log_handle;
 185     my $archname = "$buildlogs/tmp.$$.tgz";
 186     open($log_handle,">$archname");
 187     binmode $log_handle;
 188     print $log_handle $log_archive;
 189     close $log_handle;
 190     mkdir $dirname;
 191     @log_file_names = `tar -z -C $dirname -xvf $archname 2>/dev/null`;
 192     map {s/\s+//g; } @log_file_names;
 193     my @qnames = grep { $_ ne 'githead.log' } @log_file_names;
 194     map { $_ = qq("$_"); } @qnames;
 195     $log_file_names = '{' . join(',',@qnames) . '}';
 196     if (-e "$dirname/githead.log" )
 197     {
 198         open(my $githead,"$dirname/githead.log");
 199         $githeadref = <$githead>;
 200         chomp $githeadref;
 201         close $githead;
 202     }
 203     # unlink $archname;
 204 }
 205
 206 my $config_flags;
 207 my $client_conf;
 208 if ($frozen_sconf)
 209 {
 210     $client_conf = thaw $frozen_sconf;
 211 }
 212 else
 213 {
 214     my $container = new Safe;
 215     my $sconf = $conf;
 216     unless ($sconf =~ s/.*(\$Script_Config)/$1/ms )
 217     {
 218         $sconf = '$Script_Config={};';
 219     }
 220     $client_conf = $container->reval("$sconf;");
 221 }
 222
 223 if ($min_script_version)
 224 {
 225         $client_conf->{script_version} ||= '0.0';
 226         my ($minmajor,$minminor) = split(/\./,$min_script_version);
 227         my ($smajor,$sminor) = split(/\./,$client_conf->{script_version});
 228         if ($minmajor > $smajor || ($minmajor == $smajor && $minminor > $sminor))
 229         {
 230                 print "Status: 460 script version too low\nContent-Type: text/plain\n\n";
 231                 print
 232                         "Script version is below minimum required\n",
 233                         "Reported version: $client_conf->{script_version},",
 234                         "Minumum version required: $min_script_version\n";
 235                 $db->disconnect;
 236                 exit;
 237         }
 238 }
 239
 240 if ($min_web_script_version)
 241 {
 242         $client_conf->{web_script_version} ||= '0.0';
 243         my ($minmajor,$minminor) = split(/\./,$min_script_version);
 244         my ($smajor,$sminor) = split(/\./,$client_conf->{script_version});
 245         if ($minmajor > $smajor || ($minmajor == $smajor && $minminor > $sminor))
 246         {
 247                 print "Status: 461 web script version too low\nContent-Type: text/plain\n\n";
 248                 print
 249                         "Web Script version is below minimum required\n",
 250                         "Reported version: $client_conf->{web_script_version},",
 251                         "Minumum version required: $min_web_script_version\n";
 252                 $db->disconnect;
 253                 exit;
 254         }
 255 }
 256
 257 my @config_flags;
 258 if (not exists $client_conf->{config_opts} )
 259 {
 260         @config_flags = ();
 261 }
 262 elsif (ref $client_conf->{config_opts} eq 'HASH')
 263 {
 264         # leave out keys with false values
 265         @config_flags = grep { $client_conf->{config_opts}->{$_} }
 266             keys %{$client_conf->{config_opts}};
 267 }
 268 elsif (ref $client_conf->{config_opts} eq 'ARRAY' )
 269 {
 270         @config_flags = @{$client_conf->{config_opts}};
 271 }
 272
 273 if (@config_flags)
 274 {
 275     @config_flags = grep {! m/=/ } @config_flags;
 276     map {s/\s+//g; $_=qq("$_"); } @config_flags;
 277     push @config_flags,'git' if $client_conf->{scm} eq 'git';
 278     $config_flags = '{' . join(',',@config_flags) . '}' ;
 279 }
 280
 281 my $scm = $client_conf->{scm} || 'cvs';
 282 my $scmurl = $client_conf->{scm_url};
 283
 284 my $logst = <<EOSQL;
 285     insert into build_status
 286       (sysname, snapshot,status, stage, log,conf_sum, branch,
 287        changed_this_run, changed_since_success,
 288        log_archive_filenames , log_archive, build_flags, scm, scmurl,
 289        git_head_ref,frozen_conf)
 290     values(?,?,?,?,?,?,?,?,?,?,?,?,?,?,?,?)
 291 EOSQL
 292 ;
 293 $sth=$db->prepare($logst);
 294
 295 $sth->bind_param(1,$animal);
 296 $sth->bind_param(2,$dbdate);
 297 $sth->bind_param(3,$res);
 298 $sth->bind_param(4,$stage);
 299 $sth->bind_param(5,$log);
 300 $sth->bind_param(6,$conf);
 301 $sth->bind_param(7,$branch);
 302 $sth->bind_param(8,$changed_this_run);
 303 $sth->bind_param(9,$changed_since_success);
 304 $sth->bind_param(10,$log_file_names);
 305 #$sth->bind_param(11,$log_archive,{ pg_type => DBD::Pg::PG_BYTEA });
 306 $sth->bind_param(11,undef,{ pg_type => DBD::Pg::PG_BYTEA });
 307 $sth->bind_param(12,$config_flags);
 308 $sth->bind_param(13,$scm);
 309 $sth->bind_param(14,$scmurl);
 310 $sth->bind_param(15,$githeadref);
 311 $sth->bind_param(16,$frozen_sconf,{ pg_type => DBD::Pg::PG_BYTEA });
 312
 313 $sth->execute;
 314 $sth->finish;
 315
 316 my $logst2 = <<EOSQL;
 317
 318   insert into build_status_log
 319     (sysname, snapshot, branch, log_stage, log_text, stage_duration)
 320     values (?, ?, ?, ?, ?, ?)
 321
 322 EOSQL
 323     ;
 324
 325 $sth = $db->prepare($logst2);
 326
 327 $/=undef;
 328
 329 my $stage_start = $ts;
 330
 331 foreach my $log_file( @log_file_names )
 332 {
 333     next if $log_file =~ /^githead/;
 334     my $handle;
 335     open($handle,"$dirname/$log_file");
 336     my $mtime = (stat $handle)[9];
 337     my $stage_interval = $mtime - $stage_start;
 338     $stage_start = $mtime;
 339     my $ltext = <$handle>;
 340     close($handle);
 341     $ltext =~ s/\x00/\\0/g;
 342     $sth->execute($animal,$dbdate,$branch,$log_file,$ltext,
 343                   "$stage_interval seconds");
 344 }
 345
 346
 347 $sth->finish;
 348
 349 my $prevst = <<EOSQL;
 350
 351   select coalesce((select distinct on (snapshot) stage
 352                   from build_status
 353                   where sysname = ? and branch = ? and snapshot < ?
 354                   order by snapshot desc
 355                   limit 1), 'NEW') as prev_status
 356
 357 EOSQL
 358
 359 $sth=$db->prepare($prevst);
 360 $sth->execute($animal,$branch,$dbdate);
 361 my $row=$sth->fetchrow_arrayref;
 362 my $prev_stat=$row->[0];
 363 $sth->finish;
 364
 365 my $det_st = <<EOS;
 366
 367           select operating_system|| ' / ' || os_version as os ,
 368                  compiler || ' / ' || compiler_version as compiler,
 369                  architecture as arch
 370           from buildsystems
 371           where status = 'approved'
 372                 and name = ?
 373
 374 EOS
 375 ;
 376 $sth=$db->prepare($det_st);
 377 $sth->execute($animal);
 378 $row=$sth->fetchrow_arrayref;
 379 my ($os, $compiler,$arch) = @$row;
 380 $sth->finish;
 381
 382 $db->begin_work;
 383 # prevent occasional duplication by forcing serialization of this operation
 384 $db->do("lock table dashboard_mat in share row exclusive mode");
 385 $db->do("delete from dashboard_mat");
 386 $db->do("insert into dashboard_mat select * from dashboard_mat_data");
 387 $db->commit;
 388
 389 $db->disconnect;
 390
 391 print "Content-Type: text/plain\n\n";
 392 print "request was on:\n";
 393 print "res=$res&stage=$stage&animal=$animal&ts=$ts";
 394
 395 my $client_events = $client_conf->{mail_events};
 396
 397 if ($ENV{BF_DEBUG})
 398 {
 399         my $client_time = $client_conf->{current_ts};
 400     open(TX,">>$buildlogs/$animal.$date");
 401     print TX "\n",Dumper(\$client_conf),"\n";
 402         print TX "server time: $server_time, client time: $client_time\n" if $client_time;
 403     close(TX);
 404 }
 405
 406 my $bcc_stat = [];
 407 my $bcc_chg=[];
 408 if (ref $client_events)
 409 {
 410     my $cbcc = $client_events->{all};
 411     if (ref $cbcc)
 412     {
 413         push @$bcc_stat, @$cbcc;
 414     }
 415     elsif (defined $cbcc)
 416     {
 417         push @$bcc_stat, $cbcc;
 418     }
 419     if ($stage ne 'OK')
 420     {
 421         $cbcc = $client_events->{all};
 422         if (ref $cbcc)
 423         {
 424             push @$bcc_stat, @$cbcc;
 425         }
 426         elsif (defined $cbcc)
 427         {
 428             push @$bcc_stat, $cbcc;
 429         }
 430     }
 431     $cbcc = $client_events->{change};
 432     if (ref $cbcc)
 433     {
 434         push @$bcc_chg, @$cbcc;
 435     }
 436     elsif (defined $cbcc)
 437     {
 438         push @$bcc_chg, $cbcc;
 439     }
 440     if ($stage eq 'OK' || $prev_stat eq 'OK')
 441     {
 442         $cbcc = $client_events->{green};
 443         if (ref $cbcc)
 444         {
 445             push @$bcc_chg, @$cbcc;
 446         }
 447         elsif (defined $cbcc)
 448         {
 449             push @$bcc_chg, $cbcc;
 450         }
 451     }
 452 }
 453
 454
 455 my $url = $query->url(-base => 1);
 456
 457
 458 my $stat_type = $stage eq 'OK' ? 'Status' : 'Failed at Stage';
 459
 460 my $mailto = [@$all_stat];
 461 push(@$mailto,@$fail_stat) if $stage ne 'OK';
 462
 463 my $me = `id -un`; chomp($me);
 464
 465 my $host = `hostname`; chomp ($host);
 466 $host = $default_host unless ($host =~ m/[.]/ || !defined($default_host));
 467
 468 my $from_addr = "PG Build Farm <$me\@$host>";
 469 $from_addr =~ tr /\r\n//d;
 470
 471 my $msg = new Mail::Send;
 472
 473
 474 $msg->to(@$mailto);
 475 $msg->bcc(@$bcc_stat) if (@$bcc_stat);
 476 $msg->subject("PGBuildfarm member $animal Branch $branch $stat_type $stage");
 477 $msg->set('From',$from_addr);
 478 my $fh = $msg->open;
 479 print $fh <<EOMAIL;
 480
 481
 482 The PGBuildfarm member $animal had the following event on branch $branch:
 483
 484 $stat_type: $stage
 485
 486 The snapshot timestamp for the build that triggered this notification is: $dbdate
 487
 488 The specs of this machine are:
 489 OS:  $os
 490 Arch: $arch
 491 Comp: $compiler
 492
 493 For more information, see $url/cgi-bin/show_history.pl?nm=$animal&br=$branch
 494
 495 EOMAIL
 496
 497 $fh->close;
 498
 499 exit if ($stage eq $prev_stat);
 500
 501 $mailto = [@$change_stat];
 502 push(@$mailto,@$green_stat) if ($stage eq 'OK' || $prev_stat eq 'OK');
 503
 504 $msg = new Mail::Send;
 505
 506
 507 $msg->to(@$mailto);
 508 $msg->bcc(@$bcc_chg) if (@$bcc_chg);
 509
 510 $stat_type = $prev_stat ne 'OK' ? "changed from $prev_stat failure to $stage" :
 511     "changed from OK to $stage";
 512 $stat_type = "New member: $stage" if $prev_stat eq 'NEW';
 513 $stat_type .= " failure" if $stage ne 'OK';
 514
 515 $msg->subject("PGBuildfarm member $animal Branch $branch Status $stat_type");
 516 $msg->set('From',$from_addr);
 517 $fh = $msg->open;
 518 print $fh <<EOMAIL;
 519
 520 The PGBuildfarm member $animal had the following event on branch $branch:
 521
 522 Status $stat_type
 523
 524 The snapshot timestamp for the build that triggered this notification is: $dbdate
 525
 526 The specs of this machine are:
 527 OS:  $os
 528 Arch: $arch
 529 Comp: $compiler
 530
 531 For more information, see $url/cgi-bin/show_history.pl?nm=$animal&br=$branch
 532
 533 EOMAIL
 534
 535 $fh->close;