Landslides In Cyberspace
 
        To the average citizen, the idea of the telephone is represented by, well, a *telephone:* a device that you talk into. To a telco professional, however, the telephone itself is known, in lordly fashion, as a "subset." The "subset" in your house is a mere adjunct, a distant nerve ending, of the central switching stations, which are ranked in levels of heirarchy, up to the long-distance electronic switching stations, which are some of the largest computers on earth.

        Let us imagine that it is, say, 1925, before the introduction of computers, when the phone system was simpler and somewhat easier to grasp. Let's further imagine that you are Miss Leticia Luthor, a fictional operator for Ma Bell in New York City of the 20s.

        Basically, you, Miss Luthor, *are* the "switching system." You are sitting in front of a large vertical switchboard, known as a "cordboard," made of shiny wooden panels, with ten thousand metal-rimmed holes punched in them, known as jacks. The engineers would have put more holes into your switchboard, but ten thousand is as many as you can reach without actually having to get up out of your chair.

        Each of these ten thousand holes has its own little electric lightbulb, known as a "lamp," and its own neatly printed number code.

        With the ease of long habit, you are scanning your board for lit-up bulbs. This is what you do most of the time, so you are used to it.

        A lamp lights up. This means that the phone at the end of that line has been taken off the hook. Whenever a handset is taken off the hook, that closes a circuit inside the phone which then signals the local office, i.e. you, automatically. There might be somebody calling, or then again the phone might be simply off the hook, but this does not matter to you yet. The first thing you do, is record that number in your logbook, in your fine American public-school handwriting. This comes first, naturally, since it is done for billing purposes.

サイバースペースの地すべり

ふつうの市民にとって、電話といえば、もちろん、話しかける機械の電話のことになる。でも、電話会社のプロにとっては、電話それ自体は、横柄にもほんの「一部分」にすぎないと思っている。あなたの家にあるその「一部分」はおまけみたいなもので、中央の交換機の神経の末端である。中央の交換機はヒエラルキーのそれぞれの段階に位置していて、その頂上が長距離通話の電子交換機であり、それらは地球上でもっとも大きいコンピュータでもある。

たとえば、コンピュータが導入される前の1925年の電話システムがよりシンプルで、まぁ理解しやすいものだったときのことを考えてみよう。あなたがたは、レティシア・ルーサーで、1920年代のニューヨークでマ・ベルの架空の交換手だとしてみよう。

基本的に、あなたがた、ルーサーたちは「交換機」だ。1万もの金属の枠がある穴、ジャックが開いている大きくそびえたつつやのある木製の交換台「コードボード」の前に座っている。エンジニアたちは交換台にもっと穴をあけることもできただろうが、1万というのが、実際に椅子から立ちあがることなくとどく最大の数なのだ。

1万の穴には、それぞれ小さな電球「ランプ」がついていて、きれいに数字のコードが印刷されている。

長い間の習慣で苦もなく、あなたがたは交換台でついてるランプでさがしている。勤務時間の大半はこれをやってるので、あなたがたはすっかりそれに慣れている。

ランプがつくと、それはその線につながっている電話がフックからはずれたことを意味している。受話器がフックから外れたら、電話機の中の回路がつながって、地方局、つまりあなたがたに自動的に知らせるようになっている。だれかが電話したいか、それとも受話器が単にはずれただけかだろうが、あなたがたにとっては関係ない。最初にすることは、記録帳にすばらしきアメリカ公立教育の成果である手書きで、その番号を記録することだ。これは最初にやらなければならない、なんといっても料金の請求のために必要だからだ。

You now take the plug of your answering cord, which goes directly to your headset, and plug it into the lit-up hole. "Operator," you announce.

        In operator's classes, before taking this job, you have been issued a large pamphlet full of canned operator's responses for all kinds of contingencies, which you had to memorize. You have also been trained in a proper non- regional, non-ethnic pronunciation and tone of voice. You rarely have the occasion to make any spontaneous remark to a customer, and in fact this is frowned upon (except out on the rural lines where people have time on their hands and get up to all kinds of mischief).

        A tough-sounding user's voice at the end of the line gives you a number. Immediately, you write that number down in your logbook, next to the caller's number, which you just wrote earlier. You then look and see if the number this guy wants is in fact on your switchboard, which it generally is, since it's generally a local call. Long distance costs so much that people use it sparingly.

        Only then do you pick up a calling-cord from a shelf at the base of the switchboard. This is a long elastic cord mounted on a kind of reel so that it will zip back in when you unplug it. There are a lot of cords down there, and when a bunch of them are out at once they look like a nest of snakes. Some of the girls think there are bugs living in those cable-holes. They're called "cable mites" and are supposed to bite your hands and give you rashes. You don't believe this, yourself.

        Gripping the head of your calling-cord, you slip the tip of it deftly into the sleeve of the jack for the called person. Not all the way in, though. You just touch it. If you hear a clicking sound, that means the line is busy and you can't put the call through. If the line is busy, you have to stick the calling-cord into a "busy-tone jack," which will give the guy a busy-tone. This way you don't have to talk to him yourself and absorb his natural human frustration.

そこでヘッドセットに直接つながっている応答するためのコードのプラグを手にして、ランプのついている穴にさしこみ、「交換台ですが」という。

交換手の講習では、この仕事につく前に、すべての不測の事態への対応がつまった交換手の厚い手引きが配られていて、それは記憶しなければならない。また発音や声の調子に方言やなまりがない標準語になるように訓練がほどこされる。顧客にむけてとっさに言葉をかけることはほとんどない。そして事実これにはまゆがしかめられる。（これには地方局は除く。地方局では人々には時間があり、ありとあらゆるいたずらが行われている）

ききとりにくい声で電話の向こうの利用者が番号を告げる。すぐにその番号を記録帳の、すでに記録した電話をかけた人のとなりに書きとめる。それからこの利用者が言った番号が実際に自分の交換台にあるかどうかを見て確かめる、たいがいはそこにある。というのは、大概は市内通話だからだ。長距離通話は費用が高いので、あんまり使われない。

それから交換台の下にある棚から電話をかけるコードを取り出す。これは長い伸縮自在のコードでリールのようなものに巻かれている。だからプラグを抜くと、勢いよくもとにもどっていく。そこには沢山のコードがあって、その束を全部いっぺんに外に出したら、まるでへびの巣みたいなふうに見えることだろう。交換手の女性のなかにはそのケーブルの穴の中には、虫がすみついていると思っているものもいて、それを「ケーブルダニ」なんてよんでいる。その虫は手をかみ、傷をつけると思われている。あなた自身は、もちろんそんなことは信じていない。

電話をかけるコードの先をつかんで、電話をかける先のジャックの金具に巧みに先端をいれる。ただし、全部をさしこまない。触れるだけだ。もしカチッカチッという音が聞こえたら、通話中で電話はかけられないということだ。もし通話中なら、電話をかけるコードは通話中のジャックに入れなければならない。電話をかけた人には通話中の音が聞こえるだろう。そうすれば、自分で電話をかけてきた人に話さなくてもすむし、その人の人間としてもっともな不満をなだめたりしなくともよい。

But the line isn't busy. So you pop the cord all the way in. Relay circuits in your board make the distant phone ring, and if somebody picks it up off the hook, then a phone conversation starts. You can hear this conversation on your answering cord, until you unplug it. In fact you could listen to the whole conversation if you wanted, but this is sternly frowned upon by management, and frankly, when you've overheard one, you've pretty much heard 'em all.

        You can tell how long the conversation lasts by the glow of the calling-cord's lamp, down on the calling-cord's shelf. When it's over, you unplug and the calling-cord zips back into place.

        Having done this stuff a few hundred thousand times, you become quite good at it. In fact you're plugging, and connecting, and disconnecting, ten, twenty, forty cords at a time. It's a manual handicraft, really, quite satisfying in a way, rather like weaving on an upright loom.

        Should a long-distance call come up, it would be different, but not all that different. Instead of connecting the call through your own local switchboard, you have to go up the hierarchy, onto the long-distance lines, known as "trunklines." Depending on how far the call goes, it may have to work its way through a whole series of operators, which can take quite a while. The caller doesn't wait on the line while this complex process is negotiated across the country by the gaggle of operators. Instead, the caller hangs up, and you call him back yourself when the call has finally worked its way through.

        After four or five years of this work, you get married, and you have to quit your job, this being the natural order of womanhood in the American 1920s. The phone company has to train somebody else -- maybe two people, since the phone system has grown somewhat in the meantime. And this costs money.

しかしその回線は電話中ではなかったので、コードを全部差し込む。交換台の接続回路が、遠くの電話を鳴らす。そしてもし誰かが受話器をとれば、通話が開始される。応答するためのコードを引っこ抜いてなければ、その通話を聞くこともできる。実際のところ、そうしたければ会話を全部聞くことさえ可能だ。ただし会社からはひどくにらまれるし、正直言えば一つでも聞いたことがあれば、全部聞いても同じことなのだ。

電話をかけるコードの棚の下のランプの光で、会話が続いているかどうかは分かるようになっている。会話が終れば、プラグをひっこぬき、電話をかけるコードは元の位置におさまる。

こんな作業を何百万回とやってきて、てきぱきとこなせるようになっている。実際プラグをさしこみ、接続して、接続を切るのを、10、20、40回同時にできる。それは実際全く見事な職人芸であり、まるではたおり機で織物をしているようなものだ。

長距離通話が来たときには、手順は違ってくるが、全部が全部違うわけではない。通話を自分の交換台でつなぐ代わりに、ヒエラルキーを上り、「本線」という長距離通話のところまでいかなければならない。通話がどれほど遠くまでかによるが、何人もの交換手を経由して、しばらく時間がかかって通話ができるようになる。電話をかける人はこの複雑なプロセスが、国を横断してがやがやとうるさい交換手によって完了するまで、受話器をあげて待ちはしない。電話を切り、交換手が通話がつながったら、かけ直すのだ。

この仕事を４，５年やると、結婚して仕事をやめなければならない。これが1920年代のアメリカの女性のふつうの生き方で、電話会社は代わりの人を訓練しなければならなくなる。たぶん２名を、なぜなら電話システムはその間もいくぶんかは成長しているから。これには金がかかる。

 In fact, to use any kind of human being as a switching system is a very expensive proposition. Eight thousand Leticia Luthors would be bad enough, but a quarter of a million of them is a military-scale proposition and makes drastic measures in automation financially worthwhile.

        Although the phone system continues to grow today, the number of human beings employed by telcos has been dropping steadily for years. Phone "operators" now deal with nothing but unusual contingencies, all routine operations having been shrugged off onto machines. Consequently, telephone operators are considerably less machine-like nowadays, and have been known to have accents and actual character in their voices. When you reach a human operator today, the operators are rather more "human" than they were in Leticia's day -- but on the other hand, human beings in the phone system are much harder to reach in the first place.

        Over the first half of the twentieth century, "electromechanical" switching systems of growing complexity were cautiously introduced into the phone system. In certain backwaters, some of these hybrid systems are still in use. But after 1965, the phone system began to go completely electronic, and this is by far the dominant mode today. Electromechanical systems have "crossbars," and "brushes," and other large moving mechanical parts, which, while faster and cheaper than Leticia, are still slow, and tend to wear out fairly quickly.

        But fully electronic systems are inscribed on silicon chips, and are lightning-fast, very cheap, and quite durable. They are much cheaper to maintain than even the best electromechanical systems, and they fit into half the space. And with every year, the silicon chip grows smaller, faster, and cheaper yet. Best of all, automated electronics work around the clock and don't have salaries or health insurance.

        There are, however, quite serious drawbacks to the use of computer-chips. When they do break down, it is a daunting challenge to figure out what the heck has gone wrong with them. A broken cordboard generally had a problem in it big enough to see. A broken chip has invisible, microscopic faults. And the faults in bad software can be so subtle as to be practically theological.

実際、人間を何らかの形で交換機としてつかうのは非常に高くつくことだ。8千人のレティシア・ルーサーたちでも十分悪いのに、25万人ともなると軍隊の規模の問題で、オートメーション化による財務上の恩恵はかなり大きい規模になる。

電話システムは現在でも成長を続けているが、電話会社にやとわれている人の数は、何年ものあいだ一貫して減りつづけている。電話の交換手はいまや緊急時の対応のみを行い、通常時のオペレーションは機械が肩代わりするようになってきている。その結果、電話会社の交換手は現在ではかなり機械っぽくなくなり、声のアクセントや質はずっと人間らしくなってきている。今日人間の電話交換手につながれば、その交換手はレティシアの時代よりずっと人間らしくなっている。しかし一方、電話システムで最初に人間につながることはめったになくなっている。

20世紀の前半を通して、電話システムには、複雑化をます「電気機械式」交換機が注意深く導入されていった。導入の遅れた地域では、いまだに混在したシステムが使われていることもある。しかし1985年以降は、電話システムは完全に電子化されてきており、現在では電子化がはるかに優勢になっている。
電気機械式のシステムの「クロスバー」や「ブラシ」といった部品やその他の大きな機械式の稼動部品は、もちろんレティシアよりは早くて安くあがるが、まだまだ遅く、かなり急速に消耗してしまいがちだった。

しかし完全に電子化されたシステムは、シリコンチップに刻まれているだけであり、スピードはとてつもなく速く、非常に安価で、きわめて長持ちだ。もっともよい電気機械式のシステムより、ずっと維持費が安くあがった。そして場所も半分しかとらなかった。年を経るごとに、シリコンチップは小さく、速く、安くなっている。とりわけ自動電子機器は24時間働いて、給料や健康保険なしだ。

しかしながら、コンピュータチップの使用には極めて不都合な点もいくつかあった。いったんダウンすると、いったいなにが悪いのか解決するのは気のめいる作業となる。昔の交換台が壊れたのなら、大概は目に見える問題がある。チップが壊れても目には見えない、非常に小さな欠陥なのだ。そして不良品のソフトウェアの欠陥は事実上、神学上の問題ほど些細なこともある。

 If you want a mechanical system to do something new, then you must travel to where it is, and pull pieces out of it, and wire in new pieces. This costs money. However, if you want a chip to do something new, all you have to do is change its software, which is easy, fast and dirt-cheap. You don't even have to see the chip to change its program. Even if you did see the chip, it wouldn't look like much. A chip with program X doesn't look one whit different from a chip with program Y.

        With the proper codes and sequences, and access to specialized phone-lines, you can change electronic switching systems all over America from anywhere you please.

        And so can other people. If they know how, and if they want to, they can sneak into a microchip via the special phonelines and diddle with it, leaving no physical trace at all. If they broke into the operator's station and held Leticia at gunpoint, that would be very obvious. If they broke into a telco building and went after an electromechanical switch with a toolbelt, that would at least leave many traces. But people can do all manner of amazing things to computer switches just by typing on a keyboard, and keyboards are everywhere today. The extent of this vulnerability is deep, dark, broad, almost mind-boggling, and yet this is a basic, primal fact of life about any computer on a network.

        Security experts over the past twenty years have insisted, with growing urgency, that this basic vulnerability of computers represents an entirely new level of risk, of unknown but obviously dire potential to society. And they are right.

        An electronic switching station does pretty much everything Letitia did, except in nanoseconds and on a much larger scale. Compared to Miss Luthor's ten thousand jacks, even a primitive 1ESS switching computer, 60s vintage, has a 128,000 lines. And the current AT&T system of choice is the monstrous fifth-generation 5ESS.

もし機械式のシステムで何か新しいことをしたければ、該当の場所のところまでわざわざ行って、その一部分を引っこ抜いて、新しい部品をとりつける必要がある。これには金がかかる。でももしチップで新しいことがしたければ、そのソフトウェアを変更するだけでいい。チップを見ても、変更したとは思えないだろう。Ｘというプログラムが乗っているチップとＹというプログラムが乗っているチップは、外見上は全くかわらない。

適切なコードと手順、そして特別な電話線にアクセスすれば、どこからでもアメリカ中の電子交換機システムの変更が可能なのである。

そして誰にでも可能といえる。もしどうやってやるかを知っていて、やりたければ、物理的な痕跡は全く残さずに、特別の電話回線経由でマイクロチップに忍び込み、それをいじることができる。もし交換手のいるところに押し入って、レティシアに銃をつきつければ、それはあまりに明白だろう。もし電話会社のビルに押し入って、工具ベルトをして電気機械式の交換機を目指していったら、少なくとも多くの痕跡を残すことになる。でもキーボードを打つだけで、全く同じような驚くべきことがコンピュータの交換機に対してできるのである。そして今日キーボードはどこにでもある。この脆弱性は根が深く、見通しは暗く、範囲が大きく、理解を超えたものである。またこれは、ネットワークにつながったコンピュータにとっても、基本的かつ根本的な事実である。

セキュリティの専門家たちは、過去20年にわたりしだいに切迫さをましてこう主張してきた。この基本的なコンピュータの脆弱さは全く新しいレベルのリスク、よくわからないが明白に恐ろしい社会への潜在的脅威を示していると。

電子交換機は、レティシアがしていたことの大部分をしている、ただしナノセコンドでずっと大規模で。ルーサーの1万のジャックと比べて、初期の1960年代の1ESSの交換機でさえ、128000の回線をもっている。そして現在のAT＆Tで使われているシステムは、途方もない5世代機の5ESSである。

An Electronic Switching Station can scan every line on its "board" in a tenth of a second, and it does this over and over, tirelessly, around the clock. Instead of eyes, it uses "ferrod scanners" to check the condition of local lines and trunks. Instead of hands, it has "signal distributors," "central pulse distributors," "magnetic latching relays," and "reed switches," which complete and break the calls. Instead of a brain, it has a "central processor." Instead of an instruction manual, it has a program. Instead of a handwritten logbook for recording and billing calls, it has magnetic tapes. And it never has to talk to anybody. Everything a customer might say to it is done by punching the direct-dial tone buttons on your subset.

        Although an Electronic Switching Station can't talk, it does need an interface, some way to relate to its, er, employers. This interface is known as the "master control center." (This interface might be better known simply as "the interface," since it doesn't actually "control" phone calls directly. However, a term like "Master Control Center" is just the kind of rhetoric that telco maintenance engineers -- and hackers -- find particularly satisfying.)

        Using the master control center, a phone engineer can test local and trunk lines for malfunctions. He (rarely she) can check various alarm displays, measure traffic on the lines, examine the records of telephone usage and the charges for those calls, and change the programming.

        And, of course, anybody else who gets into the master control center by remote control can also do these things, if he (rarely she) has managed to figure them out, or, more likely, has somehow swiped the knowledge from people who already know.

        In 1989 and 1990, one particular RBOC, BellSouth, which felt particularly troubled, spent a purported $1.2 million on computer security. Some think it spent as much as two million, if you count all the associated costs. Two million dollars is still very little compared to the great cost-saving utility of telephonic computer systems

電子交換機は、その機械の「ボード」に乗っている全ての回線を10分の1秒でスキャンできるし、それを何回も何回も疲れを知らず24時間できる。目の代わりに、"ferrod scanners"を使って市内回線と遠距離回線の状態をチェックする。手の代わりに"signal distributors," "central pulse distributors," "magnetic latching relays," and "reed switches,"を使って、通話を接続したり、断ったりする。脳の代わりに、「中央演算装置」をつかう。手引書の代わりはプログラムになる。記録と料金請求のための手書きの記録の代わりに、磁気テープが使われる。そして機械は誰にも話しかけなくてもいい。顧客がするすべてのことは、直通ダイヤルの電話機のトーンボタンを押すことである。

電子交換機は話しこそできないが、機械の、いわゆる雇い主と意志を疎通させるなんらかの手段、つまりインターフェースが必要となる。このインターフェースは「主管理センター」と呼ばれている（このインターフェースは、主管理センターというよりはむしろただの「インターフェース」と呼ばれる方がいいかもしれない。というのも実際には、通話を直接「管理」しているわけではないからだ。しかしながら「主管理センター」のような用語は、いわば電話会社の保守エンジニアたちやハッカーたちが満足を覚えるようなレトリックのようなものといえる）

主管理センターを使えば、電話エンジニアは市内回線と遠距離回線がきちんと動くかテストすることできる。エンジニア（たいがい男性だがまれに女性もいる）はいろいろな警告の表示をチェックしたり、該当回線のトラフィックを測定したり、電話の使用記録やそれらの会話への請求を調べて、プログラムを変えることができる。

そして、もちろん主管理センターに遠くから侵入する人はだれでも同じことができる。もしハッカー（たいがい男性だがまれに女性もいる）がその方法をなんとか探り当てたら、いやもっとありそうなのは、どうにかして既にその方法を知っている人からそのやり方をかっぱらうことだが。

1989年と1990年には、ある特定のRBOC、特別に不安を覚えたベルサウスは、自分で主張するには120万ドルをコンピュータのセキュリティーにつぎ込んだ。全ての費用を考え合わせると、200万ドルつぎ込んだと考えるものもいる。200万ドルでさえ、電話のコンピュータシステムによる大幅な費用削減効果からしてみれば微々たるものといえるだろう。

Unfortunately, computers are also stupid. Unlike human beings, computers possess the truly profound stupidity of the inanimate.

        In the 1960s, in the first shocks of spreading computerization, there was much easy talk about the stupidity of computers -- how they could "only follow the program" and were rigidly required to do "only what they were told." There has been rather less talk about the stupidity of computers since they began to achieve grandmaster status in chess tournaments, and to manifest many other impressive forms of apparent cleverness.

        Nevertheless, computers *still* are profoundly brittle and stupid; they are simply vastly more subtle in their stupidity and brittleness. The computers of the 1990s are much more reliable in their components than earlier computer systems, but they are also called upon to do far more complex things, under far more challenging conditions.

        On a basic mathematical level, every single line of a software program offers a chance for some possible screwup. Software does not sit still when it works; it "runs," it interacts with itself and with its own inputs and outputs. By analogy, it stretches like putty into millions of possible shapes and conditions, so many shapes that they can never all be successfully tested, not even in the lifespan of the universe. Sometimes the putty snaps.

        The stuff we call "software" is not like anything that human society is used to thinking about. Software is something like a machine, and something like mathematics, and something like language, and something like thought, and art, and information.... but software is not in fact any of those other things. The protean quality of software is one of the great sources of its fascination. It also makes software very powerful, very subtle, very unpredictable, and very risky.

        Some software is bad and buggy. Some is "robust," even "bulletproof." The best software is that which has been tested by thousands of users under thousands of different conditions, over years. It is then known as "stable." This does *not* mean that the software is now flawless, free of bugs. It generally means that there are plenty of bugs in it, but the bugs are well-identified and fairly well understood. 

不幸にも、コンピュータは愚かなものでもある。人間とは違って、無生物として本質的に根本的な愚かさを秘めている。

1960年代に、コンピュータ化が拡大していく最初にショックを受けた時点で、このようなコンピュータの愚かさについては語るのはずっと簡単だった。コンピュータがいかに「ただプログラムに従うだけか」、そしていかに「命令されたことだけを」黙々とやりつづけるかなどである。コンピュータがチェストーナメントでグランドマスターを取ったり、他にも多くの明らかに印象的な賢さを示しはじめると、コンピュータの愚かさについて話されることはかなり少なくなった。

しかしながら、コンピュータはまだ本質的にもろく愚かなものである。コンピュータは、単にそのもろさと愚かさをとらえにくいものにしているに過ぎない。1990年代のコンピュータは、初期のコンピュータにくらべれば、その構成部品ははるかに安定している。しかしまた、より複雑なことを、より能力が試される条件下で行うようになっている。

基本的な数学のレベルでは、ソフトウェアのどの一行一行もなんらかのしくじりを起こすことがありうる。ソフトウェアは動いているときに、じっとはしていない。それは「走る」し、自分自身に影響を受け、その入力や出力と相互に影響を与えあう。アナロジーを使えば、パテがありとあらゆる形や条件にのびたりするようなもので、あまりに多くの形をとるので、宇宙の寿命全部を使ってでさえ、全ての形を完全にテストすることはできない。パテはちぎれることさえある。

われわれが「ソフトウェア」と呼ぶものは、人間社会で考えられているようなものではない。ソフトウェアは機械のようなもの、数学のようなものであり、言語のようなものでもあり、思想、芸術、情報ともいえるかもしれない...しかしソフトウェアは実際はそのどれとも違う。ソフトウェアの変幻自在な性質は、その魅力の大きな要因の一つである。ソフトウェアをとても強力にもすれば、とてもとらえがたい、予期できないような、とてもリスキーなものにもしている。

ソフトウェアにはひどいバグだらけのものあるし、「頑丈な」「防弾」とさえ言えるようなものもある。よいソフトウェアは、大勢のユーザーによって様々な異なった条件で、何年にもわたってテストされてきている。するとそれは、「安定」していると言われる。これは、そのソフトウェアに非のうちどころがなく、バグがないということではない。たいていそれが意味するところは、バグはたくさんあるが、そのバグがしっかり確認されていて、内容もよくわかっているということである。

 There is simply no way to assure that software is free of flaws. Though software is mathematical in nature, it cannot by "proven" like a mathematical theorem; software is more like language, with inherent ambiguities, with different definitions, different assumptions, different levels of meaning that can conflict.

        Human beings can manage, more or less, with human language because we can catch the gist of it.

        Computers, despite years of effort in "artificial intelligence," have proven spectacularly bad in "catching the gist" of anything at all. The tiniest bit of semantic grit may still bring the mightiest computer tumbling down. One of the most hazardous things you can do to a computer program is try to improve it -- to try to make it safer. Software "patches" represent new, untried un- "stable" software, which is by definition riskier.

        The modern telephone system has come to depend, utterly and irretrievably, upon software. And the System Crash of January 15, 1990, was caused by an *improvement* in software. Or rather, an *attempted* improvement.

        As it happened, the problem itself -- the problem per se -- took this form. A piece of telco software had been written in C language, a standard language of the telco field. Within the C software was a long "do... while" construct. The "do... while" construct contained a "switch" statement. The "switch" statement contained an "if" clause. The "if" clause contained a "break." The "break" was *supposed* to "break" the "if clause." Instead, the "break" broke the "switch" statement.

        That was the problem, the actual reason why people picking up phones on January 15, 1990, could not talk to one another.

        Or at least, that was the subtle, abstract, cyberspatial seed of the problem. This is how the problem manifested itself from the realm of programming into the realm of real life.

コンピュータの欠点がないことを証明する方法はない。ソフトウェアは数学だが、数学の定理のように証明することはできない。ソフトウェアはどちらかといえば言語のようなもので、もともと曖昧なものであり、定義も異なれば、前提条件も違う、そしてぶつかり合うような様々なレベルの目的を含んでいる。

人間はだいたい言語を操れるが、その理由は要点をつかむことができるからだ。

コンピュータは、何年もの「人工知能」での努力にも関わらず、なにかの「要点をつかむ」ことは全然ダメなことを示してきた。ほんの些細な言葉の一言が、もっとも強力なコンピュータをダウンさせることさえある。コンピュータのプログラムにとって、もっとも恐ろしいことの一つは、それを改良しようとすること、より安全なものにしようとすることだ。ソフトウェアの「パッチ」は、新しい、試験がされていない「不安定な」ソフトウェアということで、定義上、よりリスクがあるものとなる。

現代の電話システムは、完全に引き返せないほどソフトウェアに依存してきている。そして1990年の1月15日のシステムの故障は、ソフトウェアの「改良」によって引き起こされたものだった。いやむしろ改良「しようとした」というべきか。

あいにく、問題それ自体は、つまり問題は本質的に、このようなものだった。電話会社のソフトウェアはＣ言語で書かれていた。Ｃ言語は、電話会社のソフトでは標準的な言語である。Ｃ言語のソフトウェアには「do...while」という構文があって、それには「switch」文が含まれていた。「switch」文には「if」節が含まれていて、その「if」節には「break.」が入っていた。その「break」は、「if節」を「中断」させるものだったが、そうではなく、「switch」文を中断させたのだった。

それが問題であり、1990年の1月15日に受話器を取った人が他人に電話がかけられなかった本当の理由である。

いや少なくとも、その問題は微妙で抽象的な、サイバースペースへの問題の原因となった。これが、いかにして問題がプログラミングの領域から実生活の領域へと姿を現したかである。

The System 7 software for AT&T's 4ESS switching station, the "Generic 44E14 Central Office Switch Software," had been extensively tested, and was considered very stable. By the end of 1989, eighty of AT&T's switching systems nationwide had been programmed with the new software. Cautiously, thirty- four stations were left to run the slower, less-capable System 6, because AT&T suspected there might be shakedown problems with the new and unprecedently sophisticated System 7 network.

        The stations with System 7 were programmed to switch over to a backup net in case of any problems. In mid-December 1989, however, a new high-velocity, high- security software patch was distributed to each of the 4ESS switches that would enable them to switch over even more quickly, making the System 7 network that much more secure.

        Unfortunately, every one of these 4ESS switches was now in possession of a small but deadly flaw.

        In order to maintain the network, switches must monitor the condition of other switches -- whether they are up and running, whether they have temporarily shut down, whether they are overloaded and in need of assistance, and so forth. The new software helped control this bookkeeping function by monitoring the status calls from other switches.

        It only takes four to six seconds for a troubled 4ESS switch to rid itself of all its calls, drop everything temporarily, and re-boot its software from scratch. Starting over from scratch will generally rid the switch of any software problems that may have developed in the course of running the system. Bugs that arise will be simply wiped out by this process. It is a clever idea. This process of automatically re-booting from scratch is known as the "normal fault recovery routine." Since AT&T's software is in fact exceptionally stable, systems rarely have to go into "fault recovery" in the first place; but AT&T has always boasted of its "real world" reliability, and this tactic is a belt-and-suspenders routine.

AT&Tの4ESSの交換機のSystem７のソフトウェア、「汎用44E14中央組織交換機ソフトウェア」は、徹底的にテストされていて、非常に安定していると考えられていた。1989年の終わりには、全国のAT&Tの交換機のうち80が新しいソフトウェアでプログラムされていた。注意深く、34の局は遅くて機能が少ないSystem６で走るようになっていた。その理由は、AT&Tは新しい前例がないほど複雑なSystem７の慣らし運転に問題があるかもしれないと疑っていたからだ。

System７の局は、何か問題があったときにはバックアップのネットワ―クに切り替わるようにプログラムされていた。しかしながら1989年の12月の中旬には、新しい高速にする、セキュリティを高めるソフトウェアのパッチが4ESSの交換機に配られた。それは、切り替えをより速くできるようにするもので、System７のネットワークのセキュリティをより高めるようなものだった。

不幸にも、その4ESSの交換機の全てが、些細だが根本的な欠陥をもつことになった。

ネットワークを運用するために、交換機は他の交換機の状態を監視しなければならない。システムが立ち上がって動いているか、それとも一時的にダウンしているのか、過負荷で助ける必要があるかなどである。新しいソフトウェアは、他の交換機からの状態通知を監視して、この記録機能を管理するのを助けるものだった。

故障した4ESSの交換機は4から6秒で、全ての通話を遮断して、一時的にシステムをダウンさせ、最初からソフトウェアを再起動する。最初から起動すれば、交換機からシステムが動いている中で起こったソフトウェアの問題を取り除くことが出来る。このプロセスで発生したバグは、一掃される。これはなかなかいいアイデアだ。この最初からの自動復旧のプロセスには、「通常障害復旧手順」という名前がついている。実際にはAT&Tのソフトウェアは異常なほどに安定性が高いので、システムはほとんど最初から「障害復旧」のルーチンに入ることはない。しかしAT&Tは「現実の世界」での信頼性をいつも豪語してきたし、この戦略はベルトとサスペンダーを同時にするようなものだった。

 The 4ESS switch used its new software to monitor its fellow switches as they recovered from faults. As other switches came back on line after recovery, they would send their "OK" signals to the switch. The switch would make a little note to that effect in its "status map," recognizing that the fellow switch was back and ready to go, and should be sent some calls and put back to regular work.

        Unfortunately, while it was busy bookkeeping with the status map, the tiny flaw in the brand-new software came into play. The flaw caused the 4ESS switch to interacted, subtly but drastically, with incoming telephone calls from human users. If -- and only if -- two incoming phone-calls happened to hit the switch within a hundredth of a second, then a small patch of data would be garbled by the flaw.

        But the switch had been programmed to monitor itself constantly for any possible damage to its data. When the switch perceived that its data had been somehow garbled, then it too would go down, for swift repairs to its software. It would signal its fellow switches not to send any more work. It would go into the fault- recovery mode for four to six seconds. And then the switch would be fine again, and would send out its "OK, ready for work" signal.

        However, the "OK, ready for work" signal was the *very thing that had caused the switch to go down in the first place.* And *all* the System 7 switches had the same flaw in their status-map software. As soon as they stopped to make the bookkeeping note that their fellow switch was "OK," then they too would become vulnerable to the slight chance that two phone-calls would hit them within a hundredth of a second.

        At approximately 2:25 p.m. EST on Monday, January 15, one of AT&T's 4ESS toll switching systems in New York City had an actual, legitimate, minor problem. It went into fault recovery routines, announced "I'm going down," then announced, "I'm back, I'm OK." And this cheery message then blasted throughout the network to many of its fellow 4ESS switches. 

4ESSの交換機は新しいソフトウェアを利用して、他の交換機がダウンから復旧したかを監視している。他の交換機が復旧して回線がつながったら、OKのシグナルが交換機に送信される。交換機は自分の「状態表」にそのOKを記入して、他の交換機が復旧して準備OKになり、通話を送って通常通り働くと認識する。

不幸にも、状態表に書き込むのに忙しいときに、新しいソフトウェアのわずかな欠陥が作用するのだ。その欠陥が、利用者からの通話がくると、4ESSの交換機に微妙だが強烈な相互作用をおこさせたのだ。もし、もしもだが２つの通話が100分の1秒のあいだに同じ交換機にくると、データの一部分がその欠陥で改ざんされてしまう。

しかし交換機は、データになんらかの障害がないかを常に監視しているようにプログラムされている。交換機はデータが少しでも改ざんされたとみなすと、ダウンする。そして迅速にソフトウェアを復旧させようとする。他の交換機には、それ以上仕事をよこさないようにシグナルを送る。4秒から6秒かかる故障−復旧のモードに入るのだ。それから交換機は復旧し、「OK、準備完了」というシグナルを送信する。

しかしながらこの「OK、準備完了」のシグナルこそが、最初に交換機をダウンさせたそのものだったのだ。そして全てのSystem７の交換機は、状態表のソフトウェアに同じ欠陥をもっていた。他の交換機がOKだと記録するために動作を止めると、２つの通話が100分の1秒の間にくるというまれな事象に弱い状態になるのだ。

1月15日（月）の東部時間2時25分くらいに、AT&Tのニューヨークの長距離通話料金の交換システム4ESSの一つが、実際に、あるささいな問題を起こした。障害−復旧手順に入り、「ダウンする」とそれから「復旧した、大丈夫だ」とアナウンスを行った。この陽気なメッセージは、ネットワークを通じてその他の多くの4ESS交換機へとばらまかれた。

Many of the switches, at first, completely escaped trouble. These lucky switches were not hit by the coincidence of two phone calls within a hundredth of a second. Their software did not fail -- at first. But three switches -- in Atlanta, St. Louis, and Detroit -- were unlucky, and were caught with their hands full. And they went down. And they came back up, almost immediately. And they too began to broadcast the lethal message that they, too, were "OK" again, activating the lurking software bug in yet other switches.

        As more and more switches did have that bit of bad luck and collapsed, the call-traffic became more and more densely packed in the remaining switches, which were groaning to keep up with the load. And of course, as the calls became more densely packed, the switches were *much more likely* to be hit twice within a hundredth of a second.

        It only took four seconds for a switch to get well. There was no *physical* damage of any kind to the switches, after all. Physically, they were working perfectly. This situation was "only" a software problem.

        But the 4ESS switches were leaping up and down every four to six seconds, in a virulent spreading wave all over America, in utter, manic, mechanical stupidity. They kept *knocking* one another down with their contagious "OK" messages.

        It took about ten minutes for the chain reaction to cripple the network. Even then, switches would periodically luck-out and manage to resume their normal work. Many calls -- millions of them -- were managing to get through. But millions weren't.

        The switching stations that used System 6 were not directly affected. Thanks to these old-fashioned switches, AT&T's national system avoided complete collapse. This fact also made it clear to engineers that System 7 was at fault. 

多くの交換機は、最初は障害をまぬがれた。それらの幸運な交換機は、100分の1秒の間に2つの通話が重なるという偶然が起こらなかったのだ。それらのソフトウェアは、最初はダウンしなかった。しかしアトランタ、セントルイス、デトロイトの3台の交換機が不幸にも手一杯になってしまった。3台の機械はダウンし、ほとんどすぐに復旧した。そして致命的なメッセージ、つまり再び「OK」になったとばらまきはじめた。それによって、他の交換機にまだひそんでいたソフトウェアのバグを発生させたのだ。

だんだん多くの交換機がわずかな不運に陥り、停止していくにつれ、だんだん通話は残った交換機につめこまれて、負荷に悲鳴をあげた。そしてもちろん通話がつめこまれていけば、交換機はより100分の1秒に2回の通話を受けやすくなっていく。

一台の交換機が復旧するには、4秒ほどしかかからないし、結局、交換機にはなんら物理的なダメージもなかった。物理的には、交換機は完全に動いていた。その状況は、ソフトウェアの問題に「すぎなかった」のだ。

しかし4ESSの交換機は4から6秒ごとにダウン、再開始をくりかえし、全く狂ったような機械ならではの愚かしさで、その波がはげしくアメリカ全土へと広がった。交換機は、広がって行く「OK」のメッセージでお互いにノックダウンしあったのだ。

その連鎖反応でネットワークを麻痺させるには、10分ほどしかかからなかった。その後、一定間隔で幸運にめぐまれた交換機は通常業務を再開しようとした。多くの通話、何百万通話が処理された。しかし何百万通話は処理されなかった。

System6を使っていた交換機は直接影響をうけなかった。その旧式の交換機のおかげで、AT&Tの全国のシステムが完全にダウンするのからまぬがれたのだ。またこの事実は、エンジニアにとってSystem7に原因があるということを明らかにした。

Bell Labs engineers, working feverishly in New Jersey, Illinois, and Ohio, first tried their entire repertoire of standard network remedies on the malfunctioning System 7. None of the remedies worked, of course, because nothing like this had ever happened to any phone system before.

        By cutting out the backup safety network entirely, they were able to reduce the frenzy of "OK" messages by about half. The system then began to recover, as the chain reaction slowed. By 11:30 pm on Monday January 15, sweating engineers on the midnight shift breathed a sigh of relief as the last switch cleared-up.

        By Tuesday they were pulling all the brand-new 4ESS software and replacing it with an earlier version of System 7.

        If these had been human operators, rather than computers at work, someone would simply have eventually stopped screaming. It would have been *obvious* that the situation was not "OK," and common sense would have kicked in. Humans possess common sense -- at least to some extent. Computers simply don't.

        On the other hand, computers can handle hundreds of calls per second. Humans simply can't. If every single human being in America worked for the phone company, we couldn't match the performance of digital switches: direct-dialling, three-way calling, speed-calling, call- waiting, Caller ID, all the rest of the cornucopia of digital bounty. Replacing computers with operators is simply not an option any more.

        And yet we still, anachronistically, expect humans to be running our phone system. It is hard for us to understand that we have sacrificed huge amounts of initiative and control to senseless yet powerful machines. When the phones fail, we want somebody to be responsible. We want somebody to blame.

ベル研究所のエンジニアたちは、ニュージャージー、イリノイそしてオハイオで大わらわで、最初に全ての標準的なネットワーク対処法を機能不全に陥ったSystem７に試みた。しかしもちろん、このようなことは電話システムにはかつて起こったことがなかったことだから、その対処法は一つとして効かなかった。

エンジニアたちは、バックアップの安全用ネットワークを完全に切り離して、発作的な「OK」メッセージを半減させることができた。そして、連鎖反応は落ちついてシステムは回復し始めた。1月15日（月）の11：30までに、深夜勤務の汗まみれのエンジニアたちは最後の交換機を処理してほっと一息ついたのだった。

火曜日までには、エンジニアたちはすべての新しい4ESSのソフトウェアを引き上げ、System７の前のバージョンにもどした。

もしこれが、コンピュータが動いているのではなく人間の交換手だったら、そのうちだれかが叫ぶのをやめただろう。状況がOKではなく、常識がものを言うのは明らかだったのだから。人間には常識がある、少なくともある程度は。コンピュータには常識がないのだ。

一方、コンピュータは1秒に何百通話も取り扱うことができる。人間にはできない。もし全てのアメリカ人が電話会社に勤めても、デジタル交換機に匹敵するパフォーマンスを上げることはできない。デジタル交換機は、デジタル直通通話、three-way calling, speed-calling, call- waiting, Caller ID,その他デジタル化の恩恵の宝庫をもたらしている。コンピュータを交換手でおきかえることは、もはやできない相談だ。

われわれはまだ、時代遅れにも、人間が電話システムを動かしていると思っている。イニシアティブと管理する力の大部分を非常識だが力をもっている機械へと明渡したことを、われわれが理解するのは困難なことだ。電話が故障したとき、われわれは誰かに責任があってほしいと思う。文句を言う相手がほしいのだ。

 When the Crash of January 15 happened, the American populace was simply not prepared to understand that enormous landslides in cyberspace, like the Crash itself, can happen, and can be nobody's fault in particular. It was easier to believe, maybe even in some odd way more reassuring to believe, that some evil person, or evil group, had done this to us. "Hackers" had done it. With a virus. A trojan horse. A software bomb. A dirty plot of some kind. People believed this, responsible people. In 1990, they were looking hard for evidence to confirm their heartfelt suspicions.

        And they would look in a lot of places.

        Come 1991, however, the outlines of an apparent new reality would begin to emerge from the fog.

        On July 1 and 2, 1991, computer-software collapses in telephone switching stations disrupted service in Washington DC, Pittsburgh, Los Angeles and San Francisco. Once again, seemingly minor maintenance problems had crippled the digital System 7. About twelve million people were affected in the Crash of July 1, 1991.

        Said the New York Times Service: "Telephone company executives and federal regulators said they were not ruling out the possibility of sabotage by computer hackers, but most seemed to think the problems stemmed from some unknown defect in the software running the networks."

        And sure enough, within the week, a red-faced software company, DSC Communications Corporation of Plano, Texas, owned up to "glitches" in the "signal transfer point" software that DSC had designed for Bell Atlantic and Pacific Bell. The immediate cause of the July 1 Crash was a single mistyped character: one tiny typographical flaw in one single line of the software. One mistyped letter, in one single line, had deprived the nation's capital of phone service. It was not particularly surprising that this tiny flaw had escaped attention: a typical System 7 station requires *ten million* lines of code.

1月15日の故障がおこったとき、アメリカの大衆は、この故障のようなサイバースペースで大規模な地すべりが起きて、特別だれのせいでもないなどということは理解できなかった。だれか邪悪な意志をもったもの、あるいはグループが、われわれに対してこういうことを仕掛けたと信じる方がたやすい、あるいは全く奇妙なことにそう信じた方がほっとするのだ。「ハッカーたち」がやった。ビールスやトロイの木馬、ソフトウェア爆弾をつかって、なにかひどい陰謀があった。人々はこのようなことを信じるのだ、それも責任ある立場の人々が。1990年に、人々は自分たちの心で疑ったことの確証を必死でさがしもとめた。

そして多くの場所を調査した。

しかしながら1991年になり、明らかに新しい現実が霧のなかから姿を現しはじめた。

1991年の7月1、2日、電話交換機のコンピュータソフトウェアの欠陥が、ワシントンDC、ピッツバーグ、ロサンジェルス、そしてサンフランシスコでサービスを停止させた。ふたたび、一見ささいな保守上の問題がデジタル交換機のSystem７を麻痺させたのだ。7月1日の事故では、1200万人の人々が影響を受けた。

ニューヨークタイムズはこう書いている。「電話会社の経営陣と連邦当局は、コンピュータハッカーたちによる妨害工作の可能性を除外しないが、もっともありそうなのは、問題がネットワーク上のソフトウェアのまだわかっていない欠陥から起こっていると考えることである」

そして確かに、その週のうちに、赤面しながらテキサス州プラノのソフトウェア会社、DSCコミュニケーションは、DSCがベルアトランティックとパシフィックベルのために作った「信号の中継ポイント」ソフトウェアにわすかな欠陥があることを認めた。7月1日の事故の直接の原因は、一文字の打ち間違い、ソフトウェアの一行の一文字の打ち間違いの欠陥だった。一行の一文字を打ち間違えただけで、一国の首都から電話サービスが奪われたのだ。このささやかな欠陥が見過ごされたのは、別に驚くべきことではない。普通のSystem７は、1000万行のコードからできているのだ。

On Tuesday, September 17, 1991, came the most spectacular outage yet. This case had nothing to do with software failures -- at least, not directly. Instead, a group of AT&T's switching stations in New York City had simply run out of electrical power and shut down cold. Their back-up batteries had failed. Automatic warning systems were supposed to warn of the loss of battery power, but those automatic systems had failed as well.

        This time, Kennedy, La Guardia, and Newark airports all had their voice and data communications cut. This horrifying event was particularly ironic, as attacks on airport computers by hackers had long been a standard nightmare scenario, much trumpeted by computer- security experts who feared the computer underground. There had even been a Hollywood thriller about sinister hackers ruining airport computers -- *Die Hard II.*

        Now AT&T itself had crippled airports with computer malfunctions -- not just one airport, but three at once, some of the busiest in the world.

        Air traffic came to a standstill throughout the Greater New York area, causing more than 500 flights to be cancelled, in a spreading wave all over America and even into Europe. Another 500 or so flights were delayed, affecting, all in all, about 85,000 passengers. (One of these passengers was the chairman of the Federal Communications Commission.)

        Stranded passengers in New York and New Jersey were further infuriated to discover that they could not even manage to make a long distance phone call, to explain their delay to loved ones or business associates. Thanks to the crash, about four and a half million domestic calls, and half a million international calls, failed to get through.

        The September 17 NYC Crash, unlike the previous ones, involved not a whisper of "hacker" misdeeds. On the contrary, by 1991, AT&T itself was suffering much of the vilification that had formerly been directed at hackers. Congressmen were grumbling. So were state and federal regulators. And so was the press.

1991年の9月17日（火）には、もっとも大々的な停電が起こった。この場合はソフトウェアには何ら欠陥がなかった。少なくとも、直接には。そうではなく、ニューヨークのAT&Tの交換機の一群が停電し、ダウンしたのだ。バックアップのバッテリーも働かなかった。自動警告システムがバッテリーパワーの消耗を警告するはずだったが、自動システムも同様にダウンしていた。

今回は、ケネディ､ラ・ガーディアン、ニューアーク空港が全て音声、データ通信ともに切断された。このおそるべき出来事は、まったく皮肉なことだった。空港のコンピュータへのハッカーの攻撃は悪夢のシナリオで、コンピュータのアンダーグランドを恐れていたコンピュータセキュリティの専門家が警鐘を鳴らしていたものだ。悪賢いハッカーたちが、空港のコンピュータを破壊するハリウッドのスリラー映画「ダイハード�U」さえあるくらいだ。

今回は、AT&T自身がコンピュータの不調により空港を動かなくしてしまった。一つだけではない、三つとも全部だ、それも世界中でもっとも混みあっている空港を。

大ニューヨーク圏への空路は遮断され、500便以上がキャンセルされた。その余波はアメリカ中、ヨーロッパにさえ波及した。また500便以上が遅延し、合計85000人ほどの乗客に影響を与えた（その乗客の一人が、連邦通信委員会の議長だった）

ニューヨークとニュージャージーで立ち往生した乗客は、家族や仕事の同僚に遅れている理由を説明する長距離電話がかけられないと知ってさらに憤慨した。

事故のおかげで、約450万の国内通話と50万の国際通話が通話不能になった。

9月17日のニューヨークでの事故は、前の事故とは違って、「ハッカー」の犯罪がささやかれることはなかった。その代わりに1991年には、以前はハッカーに向けられていた中傷を、AT&T自身がこうむることになった。議員たちは不平をもらし、州、連邦の役人も報道機関も同様だった。

For their part, ancient rival MCI took out snide full- page newspaper ads in New York, offering their own long- distance services for the "next time that AT&T goes down."

        "You wouldn't find a classy company like AT&T using such advertising," protested AT&T Chairman Robert Allen, unconvincingly. Once again, out came the full-page AT&T apologies in newspapers, apologies for "an inexcusable culmination of both human and mechanical failure." (This time, however, AT&T offered no discount on later calls. Unkind critics suggested that AT&T were worried about setting any precedent for refunding the financial losses caused by telephone crashes.)

        Industry journals asked publicly if AT&T was "asleep at the switch." The telephone network, America's purported marvel of high-tech reliability, had gone down three times in 18 months. *Fortune* magazine listed the Crash of September 17 among the "Biggest Business Goofs of 1991," cruelly parodying AT&T's ad campaign in an article entitled "AT&T Wants You Back (Safely On the Ground, God Willing)."

        Why had those New York switching systems simply run out of power? Because no human being had attended to the alarm system. Why did the alarm systems blare automatically, without any human being noticing? Because the three telco technicians who *should* have been listening were absent from their stations in the power-room, on another floor of the building -- attending a training class. A training class about the alarm systems for the power room!

        "Crashing the System" was no longer "unprecedented" by late 1991. On the contrary, it no longer even seemed an oddity. By 1991, it was clear that all the policemen in the world could no longer "protect" the phone system from crashes. By far the worst crashes the system had ever had, had been inflicted, by the system, upon *itself.* And this time nobody was making cocksure statements that this was an anomaly, something that would never happen again. By 1991 the System's defenders had met their nebulous Enemy, and the Enemy was -- the System. 

電話業界では、昔からのライバルのMCIが、ニューヨークで「次にAT&Tがダウンしたときには」ぜひわが社の長距離通話をご利用ください、という卑しい一面広告を出した。

「AT&Tのような格式のある会社は、このような広告はしません」とAT&Tのロバート・アレン会長は抗議したが、説得力はなかった。ふたたび新聞にAT&Tの一面の謝罪「弁解のしようもない、人と物両方の大失態」が掲載された（しかしながら今回は、AT&Tはその後の通話に割引を行わなかった。口の悪い評論家たちは、AT&Tは電話の事故による財政的な損失の払い戻しの前例ができることを恐れているとほのめかした）

業界誌は、公然とAT&Tは「交換機の前で寝てるのか？」と問いかけた。アメリカの目指したハイテクの信頼性の驚異である電話ネットワークは、18ヶ月に3回もダウンしたのだ。フォーチュンでは、9月17日の事故を「1991年のビジネスでのもっとも愚かな失策」とした。残酷にもその記事のタイトルは、AT&Tの広告のパロディだった。「AT&Tはみなさんにもどってきてほしいと思っています（無事に着陸できれば、神のみぞ知るが）」

ニューヨークの交換機システムは、どうして電源が供給されなかったのだろう？　その理由は、人間が警告システムに対応していなかったからだ。どうして警告システムは自動的に鳴り響いていたのに、誰もそれに気づかなかったのか？　その理由は、警告を聞いてなければならなかった3人の電話会社の技術者が電源室の持ち場を離れていたからだ。そのビルの別のフロアで、訓練に参加していた。その訓練は、なんと電源室での警告システムについてのものだった！

「システムの故障」はもはや1991年の後半には、前例のないものではなくなった。その反対で、見慣れないものでもなくなった。1991年には、世界中の全ての警官を集めても、電話システムを故障から守ることはできないことが明らかになった。今までで最悪の事故でさえ、システムが「自分自身」に対して起こしたものなのだ。そして今回もこれが偶然の出来事だとか、二度と起きないだろうとか自信をもって断言できる人はどこにもいない。1991年にはシステムを守る者たちは、漠然とした敵に相対することとなった。その敵とは、システム自身だった。