perl/DXMsg.pm

   1 #!/usr/bin/perl
   2 #
   3 # This module impliments the message handling for a dx cluster
   4 #
   5 # Copyright (c) 1998 Dirk Koopman G1TLH
   6 #
   7 #
   8 #
   9 #
  10 # Notes for implementors:-
  11 #
  12 # PC28 field 11 is the RR required flag
  13 # PC28 field 12 is a VIA routing (ie it is a node call)
  14 #
  15
  16 package DXMsg;
  17
  18 use DXUtil;
  19 use DXChannel;
  20 use DXUser;
  21 use DXM;
  22 use DXProtVars;
  23 use DXProtout;
  24 use DXDebug;
  25 use DXLog;
  26 use IO::File;
  27 use Fcntl;
  28
  29 eval {
  30         require Net::SMTP;
  31 };
  32
  33 use strict;
  34
  35 use vars qw(%work @msg $msgdir %valid %busy $maxage $last_clean $residencetime
  36                         @badmsg @swop $swopfn $badmsgfn $forwardfn @forward $timeout $waittime
  37                         $email_server $email_prog $email_from
  38                     $queueinterval $lastq $importfn $minchunk $maxchunk $bulltopriv);
  39
  40 %work = ();                                             # outstanding jobs
  41 @msg = ();                                              # messages we have
  42 %busy = ();                                             # station interlocks
  43 $msgdir = "$main::root/msg";    # directory contain the msgs
  44 $maxage = 30 * 86400;                   # the maximum age that a message shall live for if not marked
  45 $last_clean = 0;                                # last time we did a clean
  46 @forward = ();                  # msg forward table
  47 @badmsg = ();                                   # bad message table
  48 @swop = ();                                             # swop table
  49 $timeout = 30*60;               # forwarding timeout
  50 $waittime = 30*60;              # time an aborted outgoing message waits before trying again
  51 $queueinterval = 1*60;          # run the queue every 1 minute
  52 $lastq = 0;
  53
  54 $minchunk = 4800;               # minimum chunk size for a split message
  55 $maxchunk = 6000;               # maximum chunk size
  56 $bulltopriv = 1;                                # convert msgs with callsigns to private if they are bulls
  57 $residencetime = 2*86400;       # keep deleted messages for this amount of time
  58 $email_server = undef;                  # DNS address of smtp server if 'smtp'
  59 $email_prog = undef;                    # program name + args for sending mail
  60 $email_from = undef;                    # the from address the email will appear to be from
  61
  62 $badmsgfn = "$msgdir/badmsg.pl";    # list of TO address we wont store
  63 $forwardfn = "$msgdir/forward.pl";  # the forwarding table
  64 $swopfn = "$msgdir/swop.pl";        # the swopping table
  65 $importfn = "$msgdir/import";       # import directory
  66
  67
  68 %valid = (
  69                   fromnode => '5,From Node',
  70                   tonode => '5,To Node',
  71                   to => '0,To',
  72                   from => '0,From',
  73                   t => '0,Msg Time,cldatetime',
  74                   private => '5,Private,yesno',
  75                   subject => '0,Subject',
  76                   linesreq => '0,Lines per Gob',
  77                   rrreq => '5,Read Confirm,yesno',
  78                   origin => '0,Origin',
  79                   lines => '5,Data',
  80                   stream => '9,Stream No',
  81                   count => '5,Gob Linecnt',
  82                   file => '5,File?,yesno',
  83                   gotit => '5,Got it Nodes,parray',
  84                   lines => '5,Lines,parray',
  85                   'read' => '5,Times read',
  86                   size => '0,Size',
  87                   msgno => '0,Msgno',
  88                   keep => '0,Keep this?,yesno',
  89                   lastt => '5,Last processed,cldatetime',
  90                   waitt => '5,Wait until,cldatetime',
  91                   delete => '5,Awaiting Delete,yesno',
  92                   deletetime => '5,Deletion Time,cldatetime',
  93                  );
  94
  95 # fix up the default sendmail if available
  96 for (qw(/usr/sbin/sendmail /usr/lib/sendmail /usr/sbin/sendmail)) {
  97         if (-e $_) {
  98                 $email_prog = $_;
  99                 last;
 100         }
 101 }
 102
 103 # allocate a new object
 104 # called fromnode, tonode, from, to, datetime, private?, subject, nolinesper
 105 sub alloc
 106 {
 107         my $pkg = shift;
 108         my $self = bless {}, $pkg;
 109         $self->{msgno} = shift;
 110         my $to = shift;
 111         #  $to =~ s/-\d+$//o;
 112         $self->{to} = ($to eq $main::mycall) ? $main::myalias : $to;
 113         my $from = shift;
 114         $self->{from} = uc $from;
 115         $self->{t} = shift;
 116         $self->{private} = shift;
 117         $self->{subject} = shift;
 118         $self->{origin} = shift;
 119         $self->{'read'} = shift;
 120         $self->{rrreq} = shift;
 121         $self->{delete} = shift;
 122         $self->{deletetime} = shift || ($self->{t} + $maxage);
 123         $self->{keep} = shift;
 124         $self->{gotit} = [];
 125 #       $self->{lastt} = $main::systime;
 126         $self->{lines} = [];
 127         $self->{private} = 1 if $bulltopriv && DXUser::get_current($self->{to});
 128
 129         return $self;
 130 }
 131
 132
 133 sub process
 134 {
 135         # this is periodic processing
 136         if ($main::systime >= $lastq + $queueinterval) {
 137
 138                 # queue some message if the interval timer has gone off
 139                 queue_msg(0);
 140
 141                 # import any messages in the import directory
 142                 import_msgs();
 143
 144                 $lastq = $main::systime;
 145         }
 146
 147         # clean the message queue
 148         if ($main::systime >= $last_clean+3600) {
 149                 clean_old();
 150                 $last_clean = $main::systime;
 151         }
 152
 153         # actual remove all the 'deleted' messages in one hit.
 154         # this has to be delayed until here otherwise it only does one at
 155         # a time because @msg is rewritten everytime del_msg is called.
 156         my @del = grep {!$_->{tonode} && $_->{delete} && !$_->{keep} && $_->{deletetime} < $main::systime} @msg;
 157         for (@del) {
 158                 $_->del_msg;
 159         }
 160
 161 }
 162
 163 # incoming message
 164 sub handle_28
 165 {
 166         my $dxchan = shift;
 167         my ($tonode, $fromnode) = @_[1..2];
 168
 169         # sort out various extant protocol errors that occur
 170         my $origin = $_[13];
 171         $origin = $dxchan->call unless $origin && $origin gt ' ';
 172
 173         # first look for any messages in the busy queue
 174         # and cancel them this should both resolve timed out incoming messages
 175         # and crossing of message between nodes, incoming messages have priority
 176
 177         my $ref = get_busy($fromnode);
 178         if ($ref) {
 179                 my $otonode = $ref->{tonode} || "unknown";
 180                 dbg("Busy, stopping msgno: $ref->{msgno} $fromnode->$otonode") if isdbg('msg');
 181                 $ref->stop_msg($fromnode);
 182         }
 183
 184         my $t = cltounix($_[5], $_[6]);
 185         my $stream = next_transno($fromnode);
 186         $ref = DXMsg->alloc($stream, uc $_[3], $_[4], $t, $_[7], $_[8], $origin, '0', $_[11]);
 187
 188         # fill in various forwarding state variables
 189         $ref->{fromnode} = $fromnode;
 190         $ref->{tonode} = $tonode;
 191         $ref->{rrreq} = $_[11];
 192         $ref->{linesreq} = $_[10];
 193         $ref->{stream} = $stream;
 194         $ref->{count} = 0;                      # no of lines between PC31s
 195         dbg("new message from $_[4] to $_[3] '$_[8]' stream $fromnode/$stream\n") if isdbg('msg');
 196         Log('msg', "Incoming message $_[4] to $_[3] '$_[8]' origin: $origin" );
 197         set_fwq($fromnode, $stream, $ref); # store in work
 198         set_busy($fromnode, $ref);      # set interlock
 199         $dxchan->send(DXProt::pc30($fromnode, $tonode, $stream)); # send ack
 200         $ref->{lastt} = $main::systime;
 201
 202         # look to see whether this is a non private message sent to a known callsign
 203         my $uref = DXUser::get_current($ref->{to});
 204         if (is_callsign($ref->{to}) && !$ref->{private} && $uref && $uref->homenode) {
 205                 $ref->{private} = 1;
 206                 dbg("set bull to $ref->{to} to private") if isdbg('msg');
 207                 Log('msg', "set bull to $ref->{to} to private");
 208         }
 209 }
 210
 211 # incoming text
 212 sub handle_29
 213 {
 214         my $dxchan = shift;
 215         my ($tonode, $fromnode, $stream) = @_[1..3];
 216
 217         my $ref = get_fwq($fromnode, $stream);
 218         if ($ref) {
 219                 $_[4] =~ s/\%5E/^/g;
 220                 if (@{$ref->{lines}}) {
 221                         push @{$ref->{lines}}, $_[4];
 222                 } else {
 223                         # temporarily store any R: lines so that we end up with
 224                         # only the first and last ones stored.
 225                         if ($_[4] =~ m|^R:\d{6}/\d{4}|) {
 226                                 push @{$ref->{tempr}}, $_[4];
 227                         } else {
 228                                 if (exists $ref->{tempr}) {
 229                                         push @{$ref->{lines}}, shift @{$ref->{tempr}};
 230                                         push @{$ref->{lines}}, pop @{$ref->{tempr}} if @{$ref->{tempr}};
 231                                         delete $ref->{tempr};
 232                                 }
 233                                 push @{$ref->{lines}}, $_[4];
 234                         }
 235                 }
 236                 $ref->{count}++;
 237                 if ($ref->{count} >= $ref->{linesreq}) {
 238                         $dxchan->send(DXProt::pc31($fromnode, $tonode, $stream));
 239                         dbg("stream $stream: $ref->{count} lines received\n") if isdbg('msg');
 240                         $ref->{count} = 0;
 241                 }
 242                 $ref->{lastt} = $main::systime;
 243         } else {
 244                 dbg("PC29 from unknown stream $stream from $fromnode") if isdbg('msg');
 245                 $dxchan->send(DXProt::pc42($fromnode, $tonode, $stream));       # unknown stream
 246         }
 247 }
 248
 249 # this is a incoming subject ack
 250 sub handle_30
 251 {
 252         my $dxchan = shift;
 253         my ($tonode, $fromnode, $stream) = @_[1..3];
 254
 255         my $ref = get_fwq($fromnode); # note no stream at this stage
 256         if ($ref) {
 257                 del_fwq($fromnode);
 258                 $ref->{stream} = $stream;
 259                 $ref->{count} = 0;
 260                 $ref->{linesreq} = 5;
 261                 set_fwq($fromnode, $stream, $ref); # new ref
 262                 set_busy($fromnode, $ref); # interlock
 263                 dbg("incoming subject ack stream $stream\n") if isdbg('msg');
 264                 $ref->{lines} = [ $ref->read_msg_body ];
 265                 $ref->send_tranche($dxchan);
 266                 $ref->{lastt} = $main::systime;
 267         } else {
 268                 dbg("PC30 from unknown stream $stream from $fromnode") if isdbg('msg');
 269                 $dxchan->send(DXProt::pc42($fromnode, $tonode, $stream));       # unknown stream
 270         }
 271 }
 272
 273 # acknowledge a tranche of lines
 274 sub handle_31
 275 {
 276         my $dxchan = shift;
 277         my ($tonode, $fromnode, $stream) = @_[1..3];
 278
 279         my $ref = get_fwq($fromnode, $stream);
 280         if ($ref) {
 281                 dbg("tranche ack stream $stream\n") if isdbg('msg');
 282                 $ref->send_tranche($dxchan);
 283                 $ref->{lastt} = $main::systime;
 284         } else {
 285                 dbg("PC31 from unknown stream $stream from $fromnode") if isdbg('msg');
 286                 $dxchan->send(DXProt::pc42($fromnode, $tonode, $stream));       # unknown stream
 287         }
 288 }
 289
 290 # incoming EOM
 291 sub handle_32
 292 {
 293         my $dxchan = shift;
 294         my ($tonode, $fromnode, $stream) = @_[1..3];
 295
 296         dbg("stream $stream: EOM received\n") if isdbg('msg');
 297         my $ref = get_fwq($fromnode, $stream);
 298         if ($ref) {
 299                 $dxchan->send(DXProt::pc33($fromnode, $tonode, $stream));       # acknowledge it
 300
 301                 # get the next msg no - note that this has NOTHING to do with the stream number in PC protocol
 302                 # store the file or message
 303                 # remove extraneous rubbish from the hash
 304                 # remove it from the work in progress vector
 305                 # stuff it on the msg queue
 306                 if ($ref->{lines}) {
 307                         if ($ref->{file}) {
 308                                 $ref->store($ref->{lines});
 309                         } else {
 310
 311                                 # is it too old
 312                                 if ($ref->{t}+$maxage < $main::systime ) {
 313                                         $ref->stop_msg($fromnode);
 314                                         dbg("old message from $ref->{from} -> $ref->{to} " . atime($ref->{t}) . " ignored") if isdbg('msg');
 315                                         Log('msg', "old message from $ref->{from} -> $ref->{to} " . cldatetime($ref->{t}) . " ignored");
 316                                         return;
 317                                 }
 318
 319                                 # does an identical message already exist?
 320                                 my $m;
 321                                 for $m (@msg) {
 322                                         if (substr($ref->{subject},0,28) eq substr($m->{subject},0,28) && $ref->{t} == $m->{t} && $ref->{from} eq $m->{from} && $ref->{to} eq $m->{to}) {
 323                                                 $ref->stop_msg($fromnode);
 324                                                 my $msgno = $m->{msgno};
 325                                                 dbg("duplicate message from $ref->{from} -> $ref->{to} to msg: $msgno") if isdbg('msg');
 326                                                 Log('msg', "duplicate message from $ref->{from} -> $ref->{to} to msg: $msgno");
 327                                                 return;
 328                                         }
 329                                 }
 330
 331                                 # swop addresses
 332                                 $ref->swop_it($dxchan->call);
 333
 334                                 # look for 'bad' to addresses
 335                                 if ($ref->dump_it($dxchan->call)) {
 336                                         $ref->stop_msg($fromnode);
 337                                         dbg("'Bad' message $ref->{to}") if isdbg('msg');
 338                                         Log('msg', "'Bad' message $ref->{to}");
 339                                         return;
 340                                 }
 341
 342                                 # check the message for bad words
 343                                 my @bad;
 344                                 my @words;
 345                                 @bad = BadWords::check($ref->{subject});
 346                                 push @words, [$ref->{subject}, @bad] if @bad;
 347                                 for (@{$ref->{lines}}) {
 348                                         @bad = BadWords::check($_);
 349                                         push @words, [$_, @bad] if @bad;
 350                                 }
 351                                 if (@words) {
 352                                         LogDbg('msg',"$ref->{from} swore: $ref->{to} origin: $ref->{origin} via " . $dxchan->call);
 353                                         LogDbg('msg',"subject: $ref->{subject}");
 354                                         for (@words) {
 355                                                 my $r = $_;
 356                                                 my $line = shift @$r;
 357                                                 LogDbg('msg', "line: $line (using words: ". join(',', @$r).")");
 358                                         }
 359                                         $ref->stop_msg($fromnode);
 360                                         return;
 361                                 }
 362
 363                                 $ref->{msgno} = next_transno("Msgno");
 364                                 push @{$ref->{gotit}}, $fromnode; # mark this up as being received
 365                                 $ref->store($ref->{lines});
 366                                 $ref->notify;
 367                                 add_dir($ref);
 368                                 Log('msg', "Message $ref->{msgno} from $ref->{from} received from $fromnode for $ref->{to}");
 369                         }
 370                 }
 371                 $ref->stop_msg($fromnode);
 372         } else {
 373                 dbg("PC32 from unknown stream $stream from $fromnode") if isdbg('msg');
 374                 $dxchan->send(DXProt::pc42($fromnode, $tonode, $stream));       # unknown stream
 375         }
 376         # queue_msg(0);
 377 }
 378
 379 # acknowledge the end of message
 380 sub handle_33
 381 {
 382         my $dxchan = shift;
 383         my ($tonode, $fromnode, $stream) = @_[1..3];
 384
 385         my $ref = get_fwq($fromnode, $stream);
 386         if ($ref) {
 387                 if ($ref->{private}) {  # remove it if it private and gone off site#
 388                         Log('msg', "Message $ref->{msgno} from $ref->{from} sent to $fromnode and deleted");
 389                         $ref->mark_delete;
 390                 } else {
 391                         Log('msg', "Message $ref->{msgno} from $ref->{from} sent to $fromnode");
 392                         push @{$ref->{gotit}}, $fromnode; # mark this up as being received
 393                         $ref->store($ref->{lines});     # re- store the file
 394                 }
 395                 $ref->stop_msg($fromnode);
 396         } else {
 397                 dbg("PC33 from unknown stream $stream from $fromnode") if isdbg('msg');
 398                 $dxchan->send(DXProt::pc42($fromnode, $tonode, $stream));       # unknown stream
 399         }
 400
 401         # send next one if present
 402         queue_msg(0);
 403 }
 404
 405 # this is a file request
 406 sub handle_40
 407 {
 408         my $dxchan = shift;
 409         my ($tonode, $fromnode) = @_[1..2];
 410
 411         $_[3] =~ s/\\/\//og;            # change the slashes
 412         $_[3] =~ s/\.//og;                      # remove dots
 413         $_[3] =~ s/^\///o;                      # remove the leading /
 414         $_[3] = lc $_[3];                       # to lower case;
 415         dbg("incoming file $_[3]\n") if isdbg('msg');
 416         $_[3] = 'packclus/' . $_[3] unless $_[3] =~ /^packclus\//o;
 417
 418         # create any directories
 419         my @part = split /\//, $_[3];
 420         my $part;
 421         my $fn = "$main::root";
 422         pop @part;                                      # remove last part
 423         foreach $part (@part) {
 424                 $fn .= "/$part";
 425                 next if -e $fn;
 426                 last SWITCH if !mkdir $fn, 0777;
 427                 dbg("created directory $fn\n") if isdbg('msg');
 428         }
 429         my $stream = next_transno($fromnode);
 430         my $ref = DXMsg->alloc($stream, "$main::root/$_[3]", $dxchan->call, time, !$_[4], $_[3], ' ', '0', '0');
 431
 432         # forwarding variables
 433         $ref->{fromnode} = $tonode;
 434         $ref->{tonode} = $fromnode;
 435         $ref->{linesreq} = $_[5];
 436         $ref->{stream} = $stream;
 437         $ref->{count} = 0;                      # no of lines between PC31s
 438         $ref->{file} = 1;
 439         $ref->{lastt} = $main::systime;
 440         set_fwq($fromnode, $stream, $ref); # store in work
 441         $dxchan->send(DXProt::pc30($fromnode, $tonode, $stream)); # send ack
 442 }
 443
 444 # abort transfer
 445 sub handle_42
 446 {
 447         my $dxchan = shift;
 448         my ($tonode, $fromnode, $stream) = @_[1..3];
 449
 450         dbg("stream $stream: abort received\n") if isdbg('msg');
 451         my $ref = get_fwq($fromnode, $stream);
 452         if ($ref) {
 453                 $ref->stop_msg($fromnode);
 454                 $ref = undef;
 455         }
 456 }
 457
 458 # global delete on subject
 459 sub handle_49
 460 {
 461         my $dxchan = shift;
 462         my $line = shift;
 463
 464         for (@msg) {
 465                 if ($_->{from} eq $_[1] && $_->{subject} eq $_[2]) {
 466                         $_->mark_delete;
 467                         Log('msg', "Message $_->{msgno} from $_->{from} ($_->{subject}) fully deleted");
 468                         DXChannel::broadcast_nodes($line, $dxchan);
 469                 }
 470         }
 471 }
 472
 473
 474
 475 sub notify
 476 {
 477         my $ref = shift;
 478         my $to = $ref->{to};
 479         my $uref = DXUser::get_current($to);
 480         my $dxchan = DXChannel::get($to);
 481         if (((*Net::SMTP && $email_server) || $email_prog) && $uref && $uref->wantemail) {
 482                 my $email = $uref->email;
 483                 if ($email) {
 484                         my @rcpt = ref $email ? @{$email} : $email;
 485                         my $fromaddr = $email_from || $main::myemail;
 486                         my @headers = ("To: $ref->{to}",
 487                                                    "From: $fromaddr",
 488                                                    "Subject: [DXSpider: $ref->{from}] $ref->{subject}",
 489                                                    "X-DXSpider-To: $ref->{to}",
 490                                                    "X-DXSpider-From: $ref->{from}\@$ref->{origin}",
 491                                                    "X-DXSpider-Gateway: $main::mycall"
 492                                                   );
 493                         my @data = ("Msgno: $ref->{msgno} To: $to From: $ref->{from}\@$ref->{origin} Gateway: $main::mycall",
 494                                                 "",
 495                                                 $ref->read_msg_body
 496                                            );
 497                         my $msg;
 498                         undef $!;
 499                         if (*Net::SMTP && $email_server) {
 500                                 $msg = Net::SMTP->new($email_server);
 501                                 if ($msg) {
 502                                         $msg->mail($fromaddr);
 503                                         $msg->to(@rcpt);
 504                                         $msg->data(map {"$_\n"} @headers, '', @data);
 505                                         $msg->quit;
 506                                 }
 507                         } elsif ($email_prog) {
 508                                 $msg = new IO::File "|$email_prog " . join(' ', @rcpt);
 509                                 if ($msg) {
 510                                         print $msg map {"$_\r\n"} @headers, '', @data, '.';
 511                                         $msg->close;
 512                                 }
 513                         }
 514                         dbg("email forwarding error $!") if isdbg('msg') && !$msg && defined $!;
 515                 }
 516         }
 517         $dxchan->send($dxchan->msg('m9')) if $dxchan && $dxchan->is_user;
 518 }
 519
 520 # store a message away on disc or whatever
 521 #
 522 # NOTE the second arg is a REFERENCE not a list
 523 sub store
 524 {
 525         my $ref = shift;
 526         my $lines = shift;
 527
 528         if ($ref->{file}) {                     # a file
 529                 dbg("To be stored in $ref->{to}\n") if isdbg('msg');
 530
 531                 my $fh = new IO::File "$ref->{to}", "w";
 532                 if (defined $fh) {
 533                         my $line;
 534                         foreach $line (@{$lines}) {
 535                                 print $fh "$line\n";
 536                         }
 537                         $fh->close;
 538                         dbg("file $ref->{to} stored\n") if isdbg('msg');
 539                         Log('msg', "file $ref->{to} from $ref->{from} stored" );
 540                 } else {
 541                         confess "can't open file $ref->{to} $!";
 542                 }
 543         } else {                                        # a normal message
 544
 545                 # attempt to open the message file
 546                 my $fn = filename($ref->{msgno});
 547
 548                 dbg("To be stored in $fn\n") if isdbg('msg');
 549
 550                 # now save the file, overwriting what's there, YES I KNOW OK! (I will change it if it's a problem)
 551                 my $fh = new IO::File "$fn", "w";
 552                 if (defined $fh) {
 553                         my $rr = $ref->{rrreq} ? '1' : '0';
 554                         my $priv = $ref->{private} ? '1': '0';
 555                         my $del = $ref->{delete} ? '1' : '0';
 556                         my $delt = $ref->{deletetime} || ($ref->{t} + $maxage);
 557                         my $keep = $ref->{keep} || '0';
 558                         print $fh "=== $ref->{msgno}^$ref->{to}^$ref->{from}^$ref->{t}^$priv^$ref->{subject}^$ref->{origin}^$ref->{'read'}^$rr^$del^$delt^$keep\n";
 559                         print $fh "=== ", join('^', @{$ref->{gotit}}), "\n";
 560                         my $line;
 561                         $ref->{size} = 0;
 562                         foreach $line (@{$lines}) {
 563                                 $line =~ s/[\x00-\x08\x0a-\x1f\x80-\x9f]/./g;
 564                                 $ref->{size} += (length $line) + 1;
 565                                 print $fh "$line\n";
 566                         }
 567                         $fh->close;
 568                         dbg("msg $ref->{msgno} stored\n") if isdbg('msg');
 569                         Log('msg', "msg $ref->{msgno} from $ref->{from} to $ref->{to} stored" );
 570                 } else {
 571                         confess "can't open msg file $fn $!";
 572                 }
 573         }
 574
 575 }
 576
 577 # delete a message
 578 sub del_msg
 579 {
 580         my $self = shift;
 581         my $dxchan = shift;
 582         my $call = '';
 583         $call = ' by ' . $dxchan->call if $dxchan;
 584
 585         if ($self->{tonode}) {
 586                 $self->{delete}++;
 587                 $self->{deletetime} = 0;
 588                 dbg("Msgno $self->{msgno} but marked as expunged$call") if isdbg('msg');
 589         } else {
 590                 # remove it from the active message list
 591                 @msg = grep { $_ != $self } @msg;
 592
 593                 Log('msg', "Msgno $self->{msgno} expunged$call");
 594                 dbg("Msgno $self->{msgno} expunged$call") if isdbg('msg');
 595
 596                 # remove the file
 597                 unlink filename($self->{msgno});
 598         }
 599 }
 600
 601 sub mark_delete
 602 {
 603         my $ref = shift;
 604         my $t = shift;
 605
 606         return if $ref->{keep};
 607
 608         $t = $main::systime + $residencetime unless defined $t;
 609
 610         $ref->{delete}++;
 611         $ref->{deletetime} = $t;
 612         $ref->store( [$ref->read_msg_body] );
 613 }
 614
 615 sub unmark_delete
 616 {
 617         my $ref = shift;
 618         my $t = shift;
 619         $ref->{delete} = 0;
 620         $ref->{deletetime} = 0;
 621 }
 622
 623 # clean out old messages from the message queue
 624 sub clean_old
 625 {
 626         my $ref;
 627
 628         # mark old messages for deletion
 629         foreach $ref (@msg) {
 630                 if (ref($ref) && !$ref->{keep} && $ref->{deletetime} < $main::systime) {
 631
 632                         # this is for IMMEDIATE destruction
 633                         $ref->{delete}++;
 634                         $ref->{deletetime} = 0;
 635                 }
 636         }
 637 }
 638
 639 # read in a message header
 640 sub read_msg_header
 641 {
 642         my $fn = shift;
 643         my $file;
 644         my $line;
 645         my $ref;
 646         my @f;
 647         my $size;
 648
 649         $file = new IO::File "$fn";
 650         if (!$file) {
 651             dbg("Error reading $fn $!");
 652             Log('err', "Error reading $fn $!");
 653                 return undef;
 654         }
 655         $size = -s $fn;
 656         $line = <$file>;                        # first line
 657         if ($size == 0 || !$line) {
 658             dbg("Empty $fn $!");
 659             Log('err', "Empty $fn $!");
 660                 return undef;
 661         }
 662         chomp $line;
 663         $size -= length $line;
 664         if (! $line =~ /^===/o) {
 665                 dbg("corrupt first line in $fn ($line)");
 666                 Log('err', "corrupt first line in $fn ($line)");
 667                 return undef;
 668         }
 669         $line =~ s/^=== //o;
 670         @f = split /\^/, $line;
 671         $ref = DXMsg->alloc(@f);
 672
 673         $line = <$file>;                        # second line
 674         chomp $line;
 675         $size -= length $line;
 676         if (! $line =~ /^===/o) {
 677             dbg("corrupt second line in $fn ($line)");
 678             Log('err', "corrupt second line in $fn ($line)");
 679                 return undef;
 680         }
 681         $line =~ s/^=== //o;
 682         $ref->{gotit} = [];
 683         @f = split /\^/, $line;
 684         push @{$ref->{gotit}}, @f;
 685         $ref->{size} = $size;
 686
 687         close($file);
 688
 689         return $ref;
 690 }
 691
 692 # read in a message header
 693 sub read_msg_body
 694 {
 695         my $self = shift;
 696         my $msgno = $self->{msgno};
 697         my $file;
 698         my $line;
 699         my $fn = filename($msgno);
 700         my @out;
 701
 702         $file = new IO::File;
 703         if (!open($file, $fn)) {
 704                 dbg("Error reading $fn $!");
 705                 Log('err' ,"Error reading $fn $!");
 706                 return ();
 707         }
 708         @out = map {chomp; $_} <$file>;
 709         close($file);
 710
 711         shift @out if $out[0] =~ /^=== /;
 712         shift @out if $out[0] =~ /^=== /;
 713         return @out;
 714 }
 715
 716 # send a tranche of lines to the other end
 717 sub send_tranche
 718 {
 719         my ($self, $dxchan) = @_;
 720         my @out;
 721         my $to = $self->{tonode};
 722         my $from = $self->{fromnode};
 723         my $stream = $self->{stream};
 724         my $lines = $self->{lines};
 725         my ($c, $i);
 726
 727         for ($i = 0, $c = $self->{count}; $i < $self->{linesreq} && $c < @$lines; $i++, $c++) {
 728                 push @out, DXProt::pc29($to, $from, $stream, $lines->[$c]);
 729     }
 730     $self->{count} = $c;
 731
 732     push @out, DXProt::pc32($to, $from, $stream) if $i < $self->{linesreq};
 733         $dxchan->send(@out);
 734 }
 735
 736
 737 # find a message to send out and start the ball rolling
 738 sub queue_msg
 739 {
 740         my $sort = shift;
 741         my $ref;
 742         my $clref;
 743
 744         # bat down the message list looking for one that needs to go off site and whose
 745         # nearest node is not busy.
 746
 747         dbg("queue msg ($sort)\n") if isdbg('msg');
 748         my @nodelist = DXChannel::get_all_nodes;
 749         foreach $ref (@msg) {
 750
 751                 # ignore 'delayed' messages until their waiting time has expired
 752                 if (exists $ref->{waitt}) {
 753                         next if $ref->{waitt} > $main::systime;
 754                         delete $ref->{waitt};
 755                 }
 756
 757                 # any time outs?
 758                 if (exists $ref->{lastt} && $main::systime >= $ref->{lastt} + $timeout) {
 759                         my $node = $ref->{tonode};
 760                         dbg("Timeout, stopping msgno: $ref->{msgno} -> $node") if isdbg('msg');
 761                         Log('msg', "Timeout, stopping msgno: $ref->{msgno} -> $node");
 762                         $ref->stop_msg($node);
 763
 764                         # delay any outgoing messages that fail
 765                         $ref->{waitt} = $main::systime + $waittime + int rand(120) if $node ne $main::mycall;
 766                         delete $ref->{lastt};
 767                         next;
 768                 }
 769
 770                 # is it being sent anywhere currently?
 771                 next if $ref->{tonode};           # ignore it if it already being processed
 772
 773                 # is it awaiting deletion?
 774                 next if $ref->{delete};
 775
 776                 # firstly, is it private and unread? if so can I find the recipient
 777                 # in my cluster node list offsite?
 778
 779                 # deal with routed private messages
 780                 my $dxchan;
 781                 if ($ref->{private}) {
 782                         next if $ref->{'read'};           # if it is read, it is stuck here
 783                         $clref = Route::get($ref->{to});
 784                         if ($clref) {
 785                                 $dxchan = $clref->dxchan;
 786                                 if ($dxchan) {
 787                                         if ($dxchan->is_node) {
 788                                                 next if $clref->call eq $main::mycall;  # i.e. it lives here
 789                                                 $ref->start_msg($dxchan) if !get_busy($dxchan->call)  && $dxchan->state eq 'normal';
 790                                         }
 791                                 } else {
 792                                         dbg("Route: No dxchan for $ref->{to} " . ref($clref) ) if isdbg('msg');
 793                                 }
 794                         }
 795                 } else {
 796
 797                         # otherwise we are dealing with a bulletin or forwarded private message
 798                         # compare the gotit list with
 799                         # the nodelist up above, if there are sites that haven't got it yet
 800                         # then start sending it - what happens when we get loops is anyone's
 801                         # guess, use (to, from, time, subject) tuple?
 802                         foreach $dxchan (@nodelist) {
 803                                 my $call = $dxchan->call;
 804                                 next unless $call;
 805                                 next if $call eq $main::mycall;
 806                                 next if ref $ref->{gotit} && grep $_ eq $call, @{$ref->{gotit}};
 807                                 next unless $ref->forward_it($call);           # check the forwarding file
 808                                 next if $ref->{tonode};           # ignore it if it already being processed
 809
 810                                 # if we are here we have a node that doesn't have this message
 811                                 if (!get_busy($call)  && $dxchan->state eq 'normal') {
 812                                         $ref->start_msg($dxchan);
 813                                         last;
 814                                 }
 815                         }
 816                 }
 817
 818                 # if all the available nodes are busy then stop
 819                 last if @nodelist == scalar grep { get_busy($_->call) } @nodelist;
 820         }
 821
 822
 823 }
 824
 825 # is there a message for me?
 826 sub for_me
 827 {
 828         my $call = uc shift;
 829         my $ref;
 830         my $count;
 831
 832         foreach $ref (@msg) {
 833                 # is it for me, private and unread?
 834                 if ($ref->{to} eq $call && $ref->{private}) {
 835                    $count++ unless $ref->{'read'} || $ref->{delete};
 836                 }
 837         }
 838         return $count;
 839 }
 840
 841 # start the message off on its travels with a PC28
 842 sub start_msg
 843 {
 844         my ($self, $dxchan) = @_;
 845
 846         confess("trying to start started msg $self->{msgno} nodes: $self->{fromnode} -> $self->{tonode}") if $self->{tonode};
 847         dbg("start msg $self->{msgno}\n") if isdbg('msg');
 848         $self->{linesreq} = 10;
 849         $self->{count} = 0;
 850         $self->{tonode} = $dxchan->call;
 851         $self->{fromnode} = $main::mycall;
 852         set_busy($self->{tonode}, $self);
 853         set_fwq($self->{tonode}, undef, $self);
 854         $self->{lastt} = $main::systime;
 855         my ($fromnode, $origin);
 856         $fromnode = $self->{fromnode};
 857         $origin = $self->{origin};
 858         $dxchan->send(DXProt::pc28($self->{tonode}, $fromnode, $self->{to}, $self->{from}, $self->{t}, $self->{private}, $self->{subject}, $origin, $self->{rrreq}));
 859 }
 860
 861 # get the ref of a busy node
 862 sub get_busy
 863 {
 864         my $call = shift;
 865         return $busy{$call};
 866 }
 867
 868 sub set_busy
 869 {
 870         my $call = shift;
 871         return $busy{$call} = shift;
 872 }
 873
 874 sub del_busy
 875 {
 876         my $call = shift;
 877         return delete $busy{$call};
 878 }
 879
 880 # get the whole busy queue
 881 sub get_all_busy
 882 {
 883         return keys %busy;
 884 }
 885
 886 # get a forwarding queue entry
 887 sub get_fwq
 888 {
 889         my $call = shift;
 890         my $stream = shift || '0';
 891         return $work{"$call,$stream"};
 892 }
 893
 894 # delete a forwarding queue entry
 895 sub del_fwq
 896 {
 897         my $call = shift;
 898         my $stream = shift || '0';
 899         return delete $work{"$call,$stream"};
 900 }
 901
 902 # set a fwq entry
 903 sub set_fwq
 904 {
 905         my $call = shift;
 906         my $stream = shift || '0';
 907         return $work{"$call,$stream"} = shift;
 908 }
 909
 910 # get the whole forwarding queue
 911 sub get_all_fwq
 912 {
 913         return keys %work;
 914 }
 915
 916 # stop a message from continuing, clean it out, unlock interlocks etc
 917 sub stop_msg
 918 {
 919         my $self = shift;
 920         my $node = shift;
 921         my $stream = $self->{stream};
 922
 923
 924         dbg("stop msg $self->{msgno} -> node $node\n") if isdbg('msg');
 925         del_fwq($node, $stream);
 926         $self->workclean;
 927         del_busy($node);
 928 }
 929
 930 sub workclean
 931 {
 932         my $ref = shift;
 933         delete $ref->{lines};
 934         delete $ref->{linesreq};
 935         delete $ref->{tonode};
 936         delete $ref->{fromnode};
 937         delete $ref->{stream};
 938         delete $ref->{file};
 939         delete $ref->{count};
 940         delete $ref->{tempr};
 941         delete $ref->{lastt};
 942         delete $ref->{waitt};
 943 }
 944
 945 # get a new transaction number from the file specified
 946 sub next_transno
 947 {
 948         my $name = shift;
 949         $name =~ s/\W//og;                      # remove non-word characters
 950         my $fn = "$msgdir/$name";
 951         my $msgno;
 952
 953         my $fh = new IO::File;
 954         if (sysopen($fh, $fn, O_RDWR|O_CREAT, 0666)) {
 955                 $fh->autoflush(1);
 956                 $msgno = $fh->getline || '0';
 957                 chomp $msgno;
 958                 $msgno++;
 959                 seek $fh, 0, 0;
 960                 $fh->print("$msgno\n");
 961                 dbg("msgno $msgno allocated for $name\n") if isdbg('msg');
 962                 $fh->close;
 963         } else {
 964                 confess "can't open $fn $!";
 965         }
 966         return $msgno;
 967 }
 968
 969 # initialise the message 'system', read in all the message headers
 970 sub init
 971 {
 972         my $dir = new IO::File;
 973         my @dir;
 974         my $ref;
 975
 976         # load various control files
 977         dbg("load badmsg: " . (load_badmsg() or "Ok"));
 978         dbg("load forward: " . (load_forward() or "Ok"));
 979         dbg("load swop: " . (load_swop() or "Ok"));
 980
 981         # read in the directory
 982         opendir($dir, $msgdir) or confess "can't open $msgdir $!";
 983         @dir = readdir($dir);
 984         closedir($dir);
 985
 986         @msg = ();
 987         for (sort @dir) {
 988                 next unless /^m\d\d\d\d\d\d$/;
 989
 990                 $ref = read_msg_header("$msgdir/$_");
 991                 unless ($ref) {
 992                         dbg("Deleting $_");
 993                         Log('err', "Deleting $_");
 994                         unlink "$msgdir/$_";
 995                         next;
 996                 }
 997
 998                 # delete any messages to 'badmsg.pl' places
 999                 if ($ref->dump_it('')) {
1000                         dbg("'Bad' TO address $ref->{to}") if isdbg('msg');
1001                         Log('msg', "'Bad' TO address $ref->{to}");
1002                         $ref->del_msg;
1003                         next;
1004                 }
1005
1006                 # add the message to the available queue
1007                 add_dir($ref);
1008         }
1009 }
1010
1011 # add the message to the directory listing
1012 sub add_dir
1013 {
1014         my $ref = shift;
1015         confess "tried to add a non-ref to the msg directory" if !ref $ref;
1016         push @msg, $ref;
1017 }
1018
1019 # return all the current messages
1020 sub get_all
1021 {
1022         return @msg;
1023 }
1024
1025 # get a particular message
1026 sub get
1027 {
1028         my $msgno = shift;
1029         for (@msg) {
1030                 return $_ if $_->{msgno} == $msgno;
1031                 last if $_->{msgno} > $msgno;
1032         }
1033         return undef;
1034 }
1035
1036 # return the official filename for a message no
1037 sub filename
1038 {
1039         return sprintf "$msgdir/m%06d", shift;
1040 }
1041
1042 #
1043 # return a list of valid elements
1044 #
1045
1046 sub fields
1047 {
1048         return keys(%valid);
1049 }
1050
1051 #
1052 # return a prompt for a field
1053 #
1054
1055 sub field_prompt
1056 {
1057         my ($self, $ele) = @_;
1058         return $valid{$ele};
1059 }
1060
1061 #
1062 # send a message state machine
1063 sub do_send_stuff
1064 {
1065         my $self = shift;
1066         my $line = shift;
1067         my @out;
1068
1069         if ($self->state eq 'send1') {
1070                 #  $DB::single = 1;
1071                 confess "local var gone missing" if !ref $self->{loc};
1072                 my $loc = $self->{loc};
1073                 if (my @ans = BadWords::check($line)) {
1074                         $self->{badcount} += @ans;
1075                         Log('msg', $self->call . " used badwords: @ans to @{$loc->{to}} in msg");
1076                         $loc->{reject}++;
1077                 }
1078                 $loc->{subject} = $line;
1079                 $loc->{lines} = [];
1080                 $self->state('sendbody');
1081                 #push @out, $self->msg('sendbody');
1082                 push @out, $self->msg('m8');
1083         } elsif ($self->state eq 'sendbody') {
1084                 confess "local var gone missing" if !ref $self->{loc};
1085                 my $loc = $self->{loc};
1086                 if ($line eq "\032" || $line eq '%1A' || uc $line eq "/EX") {
1087                         my $to;
1088                         unless ($loc->{reject}) {
1089                                 foreach $to (@{$loc->{to}}) {
1090                                         my $ref;
1091                                         my $systime = $main::systime;
1092                                         my $mycall = $main::mycall;
1093                                         $ref = DXMsg->alloc(DXMsg::next_transno('Msgno'),
1094                                                                                 uc $to,
1095                                                                                 exists $loc->{from} ? $loc->{from} : $self->call,
1096                                                                                 $systime,
1097                                                                                 $loc->{private},
1098                                                                                 $loc->{subject},
1099                                                                                 exists $loc->{origin} ? $loc->{origin} : $mycall,
1100                                                                                 '0',
1101                                                                                 $loc->{rrreq});
1102                                         $ref->swop_it($self->call);
1103                                         $ref->store($loc->{lines});
1104                                         $ref->add_dir();
1105                                         push @out, $self->msg('m11', $ref->{msgno}, $to);
1106                                         #push @out, "msgno $ref->{msgno} sent to $to";
1107                                         $ref->notify;
1108                                 }
1109                         } else {
1110                                 LogDbg('msg', $self->call . " swore to @{$loc->{to}} subject: '$loc->{subject}' in msg, REJECTED");
1111                         }
1112
1113                         delete $loc->{lines};
1114                         delete $loc->{to};
1115                         delete $self->{loc};
1116                         $self->func(undef);
1117
1118                         $self->state('prompt');
1119                 } elsif ($line eq "\031" || uc $line eq "/ABORT" || uc $line eq "/QUIT") {
1120                         #push @out, $self->msg('sendabort');
1121                         push @out, $self->msg('m10');
1122                         delete $loc->{lines};
1123                         delete $loc->{to};
1124                         delete $self->{loc};
1125                         $self->func(undef);
1126                         $self->state('prompt');
1127                 } elsif ($line =~ m|^/+\w+|) {
1128                         # this is a command that you want display for your own reference
1129                         # or if it has TWO slashes is a command
1130                         $line =~ s|^/||;
1131                         my $store = $line =~ s|^/+||;
1132                         my @in = $self->run_cmd($line);
1133                         push @out, @in;
1134                         if ($store) {
1135                                 foreach my $l (@in) {
1136                                         if (my @ans = BadWords::check($l)) {
1137                                                 $self->{badcount} += @ans;
1138                                                 Log('msg', $self->call . " used badwords: @ans to @{$loc->{to}} subject: '$loc->{subject}' in msg") unless $loc->{reject};
1139                                                 Log('msg', "line: $l");
1140                                                 $loc->{reject}++;
1141                                         }
1142                                         push @{$loc->{lines}}, length($l) > 0 ? $l : " ";
1143                                 }
1144                         }
1145                 } else {
1146                         if (my @ans = BadWords::check($line)) {
1147                                 $self->{badcount} += @ans;
1148                                 Log('msg', $self->call . " used badwords: @ans to @{$loc->{to}} subject: '$loc->{subject}' in msg") unless $loc->{reject};
1149                                 Log('msg', "line: $line");
1150                                 $loc->{reject}++;
1151                         }
1152
1153                         if ($loc->{lines} && @{$loc->{lines}}) {
1154                                 push @{$loc->{lines}}, length($line) > 0 ? $line : " ";
1155                         } else {
1156                                 # temporarily store any R: lines so that we end up with
1157                                 # only the first and last ones stored.
1158                                 if ($line =~ m|^R:\d{6}/\d{4}|) {
1159                                         push @{$loc->{tempr}}, $line;
1160                                 } else {
1161                                         if (exists $loc->{tempr}) {
1162                                                 push @{$loc->{lines}}, shift @{$loc->{tempr}};
1163                                                 push @{$loc->{lines}}, pop @{$loc->{tempr}} if @{$loc->{tempr}};
1164                                                 delete $loc->{tempr};
1165                                         }
1166                                         push @{$loc->{lines}}, length($line) > 0 ? $line : " ";
1167                                 }
1168                         }
1169
1170                         # i.e. it ain't and end or abort, therefore store the line
1171                 }
1172         }
1173         return @out;
1174 }
1175
1176 # return the standard directory line for this ref
1177 sub dir
1178 {
1179         my $ref = shift;
1180         my $flag = $ref->{private} && $ref->{read} ? '-' : ' ';
1181         if ($ref->{keep}) {
1182                 $flag = '!';
1183         } elsif ($ref->{delete}) {
1184                 $flag = $ref->{deletetime} > $main::systime ? 'D' : 'E';
1185         }
1186         return sprintf("%6d%s%s%5d %8.8s %8.8s %-6.6s %5.5s %-30.30s",
1187                                    $ref->{msgno}, $flag, $ref->{private} ? 'p' : ' ',
1188                                    $ref->{size}, $ref->{to}, $ref->{from}, cldate($ref->{t}),
1189                                    ztime($ref->{t}), $ref->{subject});
1190 }
1191
1192 # load the forward table
1193 sub load_forward
1194 {
1195         my @out;
1196         my $s = readfilestr($forwardfn);
1197         if ($s) {
1198                 eval $s;
1199                 push @out, $@ if $@;
1200         }
1201         return @out;
1202 }
1203
1204 # load the bad message table
1205 sub load_badmsg
1206 {
1207         my @out;
1208         my $s = readfilestr($badmsgfn);
1209         if ($s) {
1210                 eval $s;
1211                 push @out, $@ if $@;
1212         }
1213         return @out;
1214 }
1215
1216 # load the swop message table
1217 sub load_swop
1218 {
1219         my @out;
1220         my $s = readfilestr($swopfn);
1221         if ($s) {
1222                 eval $s;
1223                 push @out, $@ if $@;
1224         }
1225         return @out;
1226 }
1227
1228 #
1229 # forward that message or not according to the forwarding table
1230 # returns 1 for forward, 0 - to ignore
1231 #
1232
1233 sub forward_it
1234 {
1235         my $ref = shift;
1236         my $call = shift;
1237         my $i;
1238
1239         for ($i = 0; $i < @forward; $i += 5) {
1240                 my ($sort, $field, $pattern, $action, $bbs) = @forward[$i..($i+4)];
1241                 my $tested;
1242
1243                 # are we interested?
1244                 next if $ref->{private} && $sort ne 'P';
1245                 next if !$ref->{private} && $sort ne 'B';
1246
1247                 # select field
1248                 $tested = $ref->{to} if $field eq 'T';
1249                 $tested = $ref->{from} if $field eq 'F';
1250                 $tested = $ref->{origin} if $field eq 'O';
1251                 $tested = $ref->{subject} if $field eq 'S';
1252
1253                 if (!$pattern || $tested =~ m{$pattern}i) {
1254                         return 0 if $action eq 'I';
1255                         return 1 if !$bbs || grep $_ eq $call, @{$bbs};
1256                 }
1257         }
1258         return 0;
1259 }
1260
1261 #
1262 # look down the forward table to see whether this is a valid bull
1263 # or not (ie it will forward somewhere even if it is only here)
1264 #
1265 sub valid_bull_addr
1266 {
1267         my $call = shift;
1268         my $i;
1269
1270         unless (@forward) {
1271                 return 1 if $call =~ /^ALL/;
1272                 return 1 if $call =~ /^DX/;
1273                 return 0;
1274         }
1275
1276         for ($i = 0; $i < @forward; $i += 5) {
1277                 my ($sort, $field, $pattern, $action, $bbs) = @forward[$i..($i+4)];
1278                 if ($field eq 'T') {
1279                         if (!$pattern || $call =~ m{$pattern}i) {
1280                                 return 1;
1281                         }
1282                 }
1283         }
1284         return 0;
1285 }
1286
1287 sub dump_it
1288 {
1289         my $ref = shift;
1290         my $call = shift;
1291         my $i;
1292
1293         for ($i = 0; $i < @badmsg; $i += 3) {
1294                 my ($sort, $field, $pattern) = @badmsg[$i..($i+2)];
1295                 my $tested;
1296
1297                 # are we interested?
1298                 next if $ref->{private} && $sort ne 'P';
1299                 next if !$ref->{private} && $sort ne 'B';
1300
1301                 # select field
1302                 $tested = $ref->{to} if $field eq 'T';
1303                 $tested = $ref->{from} if $field eq 'F';
1304                 $tested = $ref->{origin} if $field eq 'O';
1305                 $tested = $ref->{subject} if $field eq 'S';
1306                 $tested = $call if $field eq 'I';
1307
1308                 if (!$pattern || $tested =~ m{$pattern}i) {
1309                         return 1;
1310                 }
1311         }
1312         return 0;
1313 }
1314
1315 sub swop_it
1316 {
1317         my $ref = shift;
1318         my $call = shift;
1319         my $i;
1320         my $count = 0;
1321
1322         for ($i = 0; $i < @swop; $i += 5) {
1323                 my ($sort, $field, $pattern, $tfield, $topattern) = @swop[$i..($i+4)];
1324                 my $tested;
1325                 my $swop;
1326                 my $old;
1327
1328                 # are we interested?
1329                 next if $ref->{private} && $sort ne 'P';
1330                 next if !$ref->{private} && $sort ne 'B';
1331
1332                 # select field
1333                 $tested = $ref->{to} if $field eq 'T';
1334                 $tested = $ref->{from} if $field eq 'F';
1335                 $tested = $ref->{origin} if $field eq 'O';
1336                 $tested = $ref->{subject} if $field eq 'S';
1337
1338                 # select swop field
1339                 $old = $swop = $ref->{to} if $tfield eq 'T';
1340                 $old = $swop = $ref->{from} if $tfield eq 'F';
1341                 $old = $swop = $ref->{origin} if $tfield eq 'O';
1342                 $old = $swop = $ref->{subject} if $tfield eq 'S';
1343
1344                 if ($tested =~ m{$pattern}i) {
1345                         if ($tested eq $swop) {
1346                                 $swop =~ s{$pattern}{$topattern}i;
1347                         } else {
1348                                 $swop = $topattern;
1349                         }
1350                         Log('msg', "Msg $ref->{msgno}: $tfield $old -> $swop");
1351                         Log('dbg', "Msg $ref->{msgno}: $tfield $old -> $swop");
1352                         $ref->{to} = $swop if $tfield eq 'T';
1353                         $ref->{from} = $swop if $tfield eq 'F';
1354                         $ref->{origin} = $swop if $tfield eq 'O';
1355                         $ref->{subject} = $swop if $tfield eq 'S';
1356                         ++$count;
1357                 }
1358         }
1359         return $count;
1360 }
1361
1362 # import any msgs in the import directory
1363 # the messages are in BBS format (but may have cluster extentions
1364 # so SB UK < GB7TLH is legal
1365 sub import_msgs
1366 {
1367         # are there any to do in this directory?
1368         return unless -d $importfn;
1369         unless (opendir(DIR, $importfn)) {
1370                 dbg("can\'t open $importfn $!") if isdbg('msg');
1371                 Log('msg', "can\'t open $importfn $!");
1372                 return;
1373         }
1374
1375         my @names = readdir(DIR);
1376         closedir(DIR);
1377         my $name;
1378         foreach $name (@names) {
1379                 next if $name =~ /^\./;
1380                 my $splitit = $name =~ /^split/;
1381                 my $fn = "$importfn/$name";
1382                 next unless -f $fn;
1383                 unless (open(MSG, $fn)) {
1384                         dbg("can\'t open import file $fn $!") if isdbg('msg');
1385                         Log('msg', "can\'t open import file $fn $!");
1386                         unlink($fn);
1387                         next;
1388                 }
1389                 my @msg = map { chomp; $_ } <MSG>;
1390                 close(MSG);
1391                 unlink($fn);
1392                 my @out = import_one($main::me, \@msg, $splitit);
1393                 Log('msg', @out);
1394         }
1395 }
1396
1397 # import one message as a list in bbs (as extended) mode
1398 # takes a reference to an array containing the whole message
1399 sub import_one
1400 {
1401         my $dxchan = shift;
1402         my $ref = shift;
1403         my $splitit = shift;
1404         my $private = '1';
1405         my $rr = '0';
1406         my $notincalls = 1;
1407         my $from = $dxchan->call;
1408         my $origin = $main::mycall;
1409         my @to;
1410         my @out;
1411
1412         # first line;
1413         my $line = shift @$ref;
1414         my @f = split /([\s\@\$])/, $line;
1415         @f = map {s/\s+//g; length $_ ? $_ : ()} @f;
1416
1417         unless (@f && $f[0] =~ /^(:?S|SP|SB|SEND)$/ ) {
1418                 my $m = "invalid first line in import '$line'";
1419                 dbg($m) if isdbg('msg');
1420                 return (1, $m);
1421         }
1422         while (@f) {
1423                 my $f = uc shift @f;
1424                 next if $f eq 'SEND';
1425
1426                 # private / noprivate / rr
1427                 if ($notincalls && ($f eq 'B' || $f eq 'SB' || $f =~ /^NOP/oi)) {
1428                         $private = '0';
1429                 } elsif ($notincalls && ($f eq 'P' || $f eq 'SP' || $f =~ /^PRI/oi)) {
1430                         ;
1431                 } elsif ($notincalls && ($f eq 'RR')) {
1432                         $rr = '1';
1433                 } elsif (($f =~ /^[\@\.\#\$]$/ || $f eq '.#') && @f) {       # this is bbs syntax, for AT
1434                         shift @f;
1435                 } elsif ($f eq '<' && @f) {     # this is bbs syntax  for from call
1436                         $from = uc shift @f;
1437                 } elsif ($f =~ /^\$/) {     # this is bbs syntax  for a bid
1438                         next;
1439                 } elsif ($f =~ /^<(\S+)/) {     # this is bbs syntax  for from call
1440                         $from = $1;
1441                 } elsif ($f =~ /^\$\S+/) {     # this is bbs syntax for bid
1442                         ;
1443                 } else {
1444
1445                         # callsign ?
1446                         $notincalls = 0;
1447
1448                         # is this callsign a distro?
1449                         my $fn = "$msgdir/distro/$f.pl";
1450                         if (-e $fn) {
1451                                 my $fh = new IO::File $fn;
1452                                 if ($fh) {
1453                                         local $/ = undef;
1454                                         my $s = <$fh>;
1455                                         $fh->close;
1456                                         my @call;
1457                                         @call = eval $s;
1458                                         return (1, "Error in Distro $f.pl:", $@) if $@;
1459                                         if (@call > 0) {
1460                                                 push @f, @call;
1461                                                 next;
1462                                         }
1463                                 }
1464                         }
1465
1466                         if (grep $_ eq $f, @DXMsg::badmsg) {
1467                                 push @out, $dxchan->msg('m3', $f);
1468                         } else {
1469                                 push @to, $f;
1470                         }
1471                 }
1472         }
1473
1474         # subject is the next line
1475         my $subject = shift @$ref;
1476
1477         # strip off trailing lines
1478         pop @$ref while (@$ref && $$ref[-1] =~ /^\s*$/);
1479
1480         # strip off /EX or /ABORT
1481         return ("aborted") if @$ref && $$ref[-1] =~ m{^/ABORT$}i;
1482         pop @$ref if (@$ref && $$ref[-1] =~ m{^/EX$}i);
1483
1484         # sort out any splitting that needs to be done
1485         my @chunk;
1486         if ($splitit) {
1487                 my $lth = 0;
1488                 my $lines = [];
1489                 for (@$ref) {
1490                         if ($lth >= $maxchunk || ($lth > $minchunk && /^\s*$/)) {
1491                                 push @chunk, $lines;
1492                                 $lines = [];
1493                                 $lth = 0;
1494                         }
1495                         push @$lines, $_;
1496                         $lth += length;
1497                 }
1498                 push @chunk, $lines if @$lines;
1499         } else {
1500                 push @chunk, $ref;
1501         }
1502
1503         # does an identical message already exist?
1504         my $m;
1505         for $m (@msg) {
1506                 if (substr($subject,0,28) eq substr($m->{subject},0,28) && $from eq $m->{from} && grep $m->{to} eq $_, @to) {
1507                         my $msgno = $m->{msgno};
1508                         dbg("duplicate message from $from -> $m->{to} to msg: $msgno") if isdbg('msg');
1509                         Log('msg', "duplicate message from $from -> $m->{to} to msg: $msgno");
1510                         return;
1511                 }
1512         }
1513
1514     # write all the messages away
1515         my $i;
1516         for ( $i = 0;  $i < @chunk; $i++) {
1517                 my $chunk = $chunk[$i];
1518                 my $ch_subject;
1519                 if (@chunk > 1) {
1520                         my $num = " [" . ($i+1) . "/" . scalar @chunk . "]";
1521                         $ch_subject = substr($subject, 0, 27 - length $num) .  $num;
1522                 } else {
1523                         $ch_subject = $subject;
1524                 }
1525                 my $to;
1526                 foreach $to (@to) {
1527                         my $systime = $main::systime;
1528                         my $mycall = $main::mycall;
1529                         my $mref = DXMsg->alloc(DXMsg::next_transno('Msgno'),
1530                                                                         $to,
1531                                                                         $from,
1532                                                                         $systime,
1533                                                                         $private,
1534                                                                         $ch_subject,
1535                                                                         $origin,
1536                                                                         '0',
1537                                                                         $rr);
1538                         $mref->swop_it($main::mycall);
1539                         $mref->store($chunk);
1540                         $mref->add_dir();
1541                         push @out, $dxchan->msg('m11', $mref->{msgno}, $to);
1542                         #push @out, "msgno $ref->{msgno} sent to $to";
1543                         $mref->notify;
1544                 }
1545         }
1546         return @out;
1547 }
1548
1549 #no strict;
1550 sub AUTOLOAD
1551 {
1552         no strict;
1553         my $name = $AUTOLOAD;
1554         return if $name =~ /::DESTROY$/;
1555         $name =~ s/^.*:://o;
1556
1557         confess "Non-existant field '$AUTOLOAD'" if !$valid{$name};
1558         # this clever line of code creates a subroutine which takes over from autoload
1559         # from OO Perl - Conway
1560         *$AUTOLOAD = sub {@_ > 1 ? $_[0]->{$name} = $_[1] : $_[0]->{$name}};
1561        goto &$AUTOLOAD;
1562 }
1563
1564 1;
1565
1566 __END__