La teoria dell’informazione. Simboli, codici, messaggi

Table of contents :
La teoria dell'informazione......Page 1
Colophon......Page 6
Indice......Page 7
Premessa......Page 9
I. Il mondo e le teorie......Page 15
II. Le origini della teoria dell’informazione......Page 32
III. un modello matematico......Page 56
IV. Codificazione e cifre binarie......Page 74
V. Entropia......Page 88
VI. Linguaggio e significato......Page 115
VII. Codificazione efficiente......Page 132
VIII. Il canale disturbato......Page 151
IX. Pluridimensionalità......Page 171
X. Teoria dell’informazione e fisica......Page 188
XI. Cibernetica......Page 210
XII. Teoria dell’informazione e psicologia......Page 229
XIII. Teoria dell’informazione e arte......Page 249
XIV. Ancora sulla teoria delle comunicazioni......Page 267
Appendici......Page 277
I. Sulle notazioni matematiche......Page 279
II. Ffrequenze delle lettere nella lingua italiana......Page 287
Bibliografia......Page 289
Glossario......Page 290
Indice analitico......Page 300

Citation preview

Volumi pubblicati: STEREOCHIMICA di G. Natta e M. Farina LINGUAGGIO E CIBERNETICA

di J. Singh I PROBLEMI DELLA PSICOLOGIA di G. A. Miller. VI edizione

La BIBLIOTECA DELLA EST arricchisce con una collana di monografie il panorama culturale della Enciclopedia della Scienza e della Tecnica.

I volumi della BIBLIOTECA DELLA EST sono dedicati alle più recenti scoperte ed elaborazioni che innovano campi tradizionali della ricerca e ai nuovi temi interdisciplinari che collegano specializzazioni e settori diversi. Perciò la BIBLIOTECA DELLA EST è dedicata a coloro che vogliono essere informati sulle prospettive più originali della scienza e della tecnica contemporanee e a coloro che desiderano essere aggiornati, in forma rigorosa ma anche pianamente accessibile, sui nuovi sviluppi nei campi contigui o remoti rispetto a quello della loro specifica preparazione o attività professionale. Ciascuna monografia della BIBLIOTECA DELLA EST è un'opera indipendente, ma la collana è concepita con caratteristiche unitarie che consentono di raggruppare i volumi in serie omogenee e di svolgere per ciascuna disciplina fondamentale una rassegna graduale ed esauriente di informazione e di aggiornamento.

RAPPORTO SU VENEZIA a cura dell'UNESCO. II edizione BIOGRAFIA DELLA FISICA di G. Gamow. V edizione L'ENIGMA DELLA GRAVITAZIONE di P. Bergmann. III edizione LE IDEE DELLA BIOLOGIA di J. T. Bonner. IV edizione LA GEOFISICA di O. M. Phillips. II edizione LA NUOVA METEOROLOGIA di O. G. Sutton. III edizione LE IDEE DELLA RICERCA OPERATIVA di J. Singh DINAMICA DELLA PERCEZIONE di L. Ancona LA FISICA DELLE PARTICELLE di K. W. Ford. III edizione LE BASI BIOCHIMICHE DELLA VITA di F. R. Jevons. IV edizione LA CELLULA struttura di M. Durand e P. Favard. IV edizione LA CELLULA fisiologia di A. Berkaloff, J. Bourguet, P. Favard , M. Guinnebault. V edizione IL CASO E LA NECESSITÀ di J. Monod . VII edizione INTRODUZIONE ALLA GENETICA di C. Auerbach. V edizione BIOLOGIA MOLECOLARE di C. M. Smi th. II edizione

(segue in III di copertina)

Biblioteca della EST

di John R. Pierce

EDIZIONI SCIENTIFICHE

E TECNICHE MONDADORI

Biblioteca della EST

Direttore editoriale EDGARDO MACORINJ

Redattore GABRIELLA FRASSINETI

Progetto grafico ENRICO GENOVESI

ISSN

0303-2752

In copertina Modello tridimensionale dell'onda di pressione del suono creata dalla pronuncia della parola inglese 'ti ve' (foro 18M).

Titolo originale SYMBOLS, THE

SIGNALS

NATURE

AND

AND

NOISE

PROCESS

OF

COMMlJNICATION

Harper Modern Science Series edited by James Newman

Traduzione di FRANCO

CAPOSIO

Glossario di CLAUDIO

DALMASSO

Prima edizione: maggio 1963 Seconda edizione: novembre 1965 Terza edizione: marzo 1968 Quarta edizione: gennaio 1971 Quinta edizione: luglio 1972 Sesta edizione: maggio 1975

:Q' 1961 @ 1963

by JOH N R. P lERCE by ARNOLDO MONDADORI EDITORE MILANO

Indice

IL MONDO E LE TEORIE

7 13

PREMESSA I

LE ORIGINI DELLA TEORIA DELL'INFORMAZIONE

30

III

UN MODELLO MATEMATICO

54

IV

CODIFICAZIONE E CIFRE BINARIE

72

Il

V VI VII VIII IX

ENTROPIA

86

LINGUAGGIO E SIGNIFICATO

1 13

CODIFICAZIONE EFFICIENTE

130

IL CANALE DISTURBATO

149

PLURIDIMENSIONALITÀ

169

TEORIA DELL'INFORMAZIONE E FISICA

186

CIBERNETICA

208

XII

TEORIA

DELL'INFORMAZIONE E PSICOLOGIA

227

XIII

TEORIA

DELL'INFORMAZIONE E ARTE

247

XIV

ANCORA SULLA TEORIA DELLE COMUNICAZIONI

X XI

265

APPENDICI:

II

SULLE NOTAZIONI MATEMATICHE

277

FREQUENZE DELLE LETTERE NELLA LINGUA ITALIANA

285

BIBLIOGRAFIA

287

GLOSSARIO INDICE ANALITICO

288 298

Premessa

Quando James R. Newman mi suggeri di scrivere un libro sulle comunica­ zioni accettai di buon grado. Tutto il mio lavoro di specialista si è in fon­ do ispirato, per un verso o per l'altro, alle comunicazioni. Di qui il mio desiderio di partecipare ad altri quanto mi sembrava piu interessante e impegnativo in questo importante campo di ricerca. Mi sarebbe stato difficile assolvere tale compito e dare un valore unitario all'argomento, prima della pubblicazione, avvenuta nell948, del­ la memoria di Claude E. Shannon A mathematical theory of communi­ cation. La teoria di Shannon, detta anche teoria dell'informazione, ha correlato in modo organico i diversi problemi che da anni assilla­ vano gli specialisti delle comunicazioni; essa ha delimitato con chiarezza un settore vasto, ma precisamente definito, là dove non v'era che una moltitudine di problemi particolari e di idee la cui connessione non era stata ben compresa. Giunsi cosi alla conclusione che la mia trattazione doveva limitarsi a esporre la teoria cosi come era stata formulata da Shannon. La mia esposizione avrebbe dovuto però essere da un lato piu estesa di quella di Shannon per consentire un esame delle relazioni, o della mancanza di relazioni, fra teoria delle comunicazioni e i diversi settori cui essa è stata applicata o ai quali si tenta di applicarla; mentre dall'altro avrebbe dovuto essere piu ristretta in modo da avere un minore svi­ luppo nella parte matematica. La difficoltà stava proprio qui. Poiché è vero che nell'esposizione dell'argomento avrei potuto limitare la trattazione matematica, ma è anche vero che della matematica non avrei potuto fare assolutamente a meno. Infatti la teoria delle comunicazioni ha essenzialmente un fondamento matematico; essa parte da certe premesse che defin iscono

7

alcuni particolari aspetti delle comunicazioni e procedendo per via logica giunge, da tali premesse, a determinate conclusioni. Il successo avuto dalla teoria delle comunicazioni poggia su certi teoremi matema­ tici sorprendenti e importanti a un tempo. Parlare della teoria delle comunicazioni senza accennare al suo effettivo contenuto matematico sarebbe stato come parlare all'infinito di un grande compositore senza far mai sentire un brano della sua musica. Come dovevo regolarmi? L'ideale sarebbe stato un libro autonomo, tale, cioè che gli sviluppi matematici in esso contenuti fossero tal­ mente chiari da non dover obbligare il lettore a ricorrere ad altri testi o a studi preliminari. Dovevo dunque evitare le notazioni matematiche? Non necessariamente; occorreva però spiegare nella man iera piu sem­ plice qualsiasi formula. Questo è stato fatto sia nel testo sia nell' appen­ dice, di modo che, richiamandosi ora all'uno ora all'altra, il lettore potrà, all'occorrenza , superare ogni difficoltà. Ma quali difficoltà avrebbero presentato le questioni matematiche piu complesse? Benché in un primo tempo pensassi di non toccare certi punti, anche se importanti, decisi poi di includer/i ugualmente, cercando di semplificare il p iu possibile certe cose, si da render/e piu semplici, poniamo, delle parti piu complesse di The world of mathe­ matics di Newman. Nei punti piu ardui mi sono limitato a indicare il ramo della matematica impiegato, piuttosto che tentare di descrivere il contenuto delle formule. Tuttavia alcune parti riusciranno piuttosto ostiche per il lettore non matematico, al quale converrebbe in un primo momento scorrerie rapidamente per ritornarvi poi in un secondo tempo e cercare di appro­ fondirle. Se le avessi omesse, la completezza della trattazione ne avreb­ be sofferto. A quanto mi risulta, le pubblicazioni esistenti in materia sono o troppo semplici o troppo complesse, per cui il lettore impreparato difficilmente potrà sperare di attingervi per integrare le parti meno accessibili di questo libro. Vorrei anche aggiungere che parte delle pub­ blicazioni esistenti su questi temi sono poco chiare e alcune di esse sono addirittura errate. Non vorrei, con questo, dare l'impressione che, tutto sommato, la teoria delle comunicazioni non meriti tanto disturbo. Anzi, finché vi sarà interesse per il mondo della scienza e della tecnologia, penso che vi sarà interesse anche per la teoria delle comunicazioni, che di quel mondo è parte integrante. E finché si vorrà conoscere qualcosa di quel mondo e di quella teoria converrà cercare di farsene un quadro chiaro. In tale quadro la teoria delle comunicazioni non deve apparire come qualcosa di astratto o incomprensibile né come qualcosa che si possa compendiare in poche parole e capire agevolmente.

8

PREMESSA

Questo libro, che ha presentato non poche difficoltà di redazione, non avrebbe mai potuto vedere la luce senza l'apporto di Shannon, il quale, oltre a esserne l'ispiratore, ha riveduto il manoscritto sugge­ rendo diverse varianti. David Slepian mi ha chiarito ancora di piu le idee, evitandomi errori e confusione. Diverse inesattezze sono state anche evitate grazie all'aiuto di E. N. Gilbert. Mi/ton Babbitt mi ha rassicurato sul contenuto del capitolo riguardante i rapporti fra la teor ia della informazione e l'arte e mi ha suggerito alcune modifiche. Per ciò che concerne il settore della psicologia ho avuto diversi suggeri­ menti da P. D. Bricker, H. M. Jenkins e R. N. Shepard, ai quali tuttavia non devono ·essere attribuite le opinioni espresse in questo libro. M. V. Mathews mi ha fornito gli elementi relativi al programma del calcolatore nel capitolo XI, mentre Benoit Mandelbrot mi è stato di aiuto per il capitolo XII. J. P. Runyon ha letto con cura il mano­ scritto; Eric Wolman ha scoperto svariati errori nel testo e ha dato preziosi suggerimenti. Molto devo a James R. Newman che mi ha con­ sigliato e mi ha stimolato ad appianare certe difficoltà. Un grazie par­ ticolare va infine alla signorina F. M. Costello, che ha trionfato sul bailamme della preparazione e della correzione, sia del manoscritto sia delle illustrazioni. J.

R.

PIERCE

9

Simboli, codici, messaggi LA TEORIA DELL' INFORMAZIONE

A Claude e Betty Shannon

I Il mondo e le teorie

Nel 1948 Claude E. Shannon pubblicò una memoria dal titolo A rnathematical theory of communication, che usci poi in volume nel 1949. In precedenza alcuni ricercatori isolati avevano fatto qual­ che sporadico tentativo per formulare una teoria generale delle co­ municazioni. Oggi, a distanza di piu di vent'anni, la teoria delle comu­ nicazioni (che talvolta viene anche chiamata teoria dell'informazione) rappresenta un settore ben definito della ricerca scientifica. Su questa teoria esistono molte pubblicazioni e sono stati indetti convegni e

L' Institute of radio engineers americano A tti vengono pubblicati trimestral­ lnformation and contro!, edita a cura dell'Istituto

conferenze internazionali.

ha un gruppo di specialisti i cui mente; la rivista stesso,

è

in gran parte dedicata alla teoria delle comunicazioni.

Noi tutti usiamo i termini 'comunicazione' e 'informazione' e ci guardiamo bene dal sottovalutarne l'importanza. Un filosofo con­ temporaneo, A. J. Ayer, ha messo in rilievo il significato e l'im­ portanza che le comunicazioni hanno nella nostra esistenza. Noi comunichiamo - egli osserva - non solo i dati di fatto, ma la cono­ scenza , l'errore, le opinioni, le idee, le esperienze, i desideri, gli or­ dini, le emozioni, i sentimenti, gli umori . Il calore e il movimento sono comunicabili esattamente come lo sono la forza, la debolezza, le malattie. Ayer cita e commenta le molteplici manifestazioni e gli aspetti piu imbarazzanti delle comunicazioni nella società umana. Certo, le comunicazioni sono talmente varie e importanti che una teoria con solidi fondamenti, utile e largamente accettata,

è

di valore

inestimabile. Quando al termine 'teoria' aggiungiamo l'aggettivo 'ma­ tematica', con tutto l'alone di rigore e di magia che l'accompagna, l'attrazione diventa quasi irresistibile. Qualcuno può essere indotto a

13

credere che bastino poche formule per metterei in grado di risolvere i nostri problemi delle comunicazioni e per farci diventare i padroni delle buone informazioni piuttosto che gli schiavi delle cattive. Pur­ troppo, la scienza segue tutt'altro corso. Circa 2300 anni fa un altro filosofo, Aristotele, discuteva nella sua Physica un concetto altrettanto universale quanto quello di comuni­ cazione, ossia il concetto di movimento. Il movimento è, secondo Aristotele, il passaggio dalla potenza all'atto e ha quindi sempre un fine che è la forma che esso tende a realizzare. Il movimento è di quattro specie e cioè : sostanziale, ossia generazione o distruzione ; qualitativo, o mutamento ; quantita­ tivo, aumento o diminuzione ; locale, o movimento propriamente detto. Egli trovava, invero, tanti tipi di movimento quanti sono i significati attribuiti alla parola 'è' . * Ecco, dunque, il movimento in tutta la sua manifesta complessità, complessità forse piuttosto im­ barazzante per noi, sia perché le associazioni delle parole variano nelle diverse lingu�, sia perché il movimento per noi non è necessaria­ mente associato a tutti i mutamenti di cui parla Aristotele. Cotesto concetto universale del movimento dev'essere rimasto in­ comprensibile anche ai suoi discepoli e continuò ad esserlo per oltre due millenni, fino al tempo in cui Newton annunciò le leggi che an­ cora oggi gli ingegneri applicano nel progettare le loro macchine e gli astronomi nello studio dei moti delle stelle, dei pianeti e dei sa­ telliti. Malgrado i fisici posteriori abbiano riscontrato che le leggi di Newton sono soltanto una forma particolare di leggi piu generali, esse non hanno un puro e semplice valore storico, ma sono parte viva della nostra fisica. Poiché il movimento è una parte cosi impor­ tante del nostro mondo, vediamo cosa dicono le leggi newtoniane : l) Un corpo persevera nel suo stato di quiete o di moto rettilineo uniforme fino a che non intervenga una forza esterna atta a modifi­ care il suo stato.

• Il passo di Aristotele suona esattamente cosi: «Non esiste movimento all'infuori delle cose che effettivamente si muovono. Infatti ciò che muta, muta sempre o secondo la sostanza (oucr[ot) o secondo la quantità (Ttocr6v) o secondo la qualità (7toL6v) o secondo il luogo ('r6Ttoç); ma non vi è nulla che sia comune a tutte queste modalità di cam­ biamento e che a sua volta non ricada nel sostanziale (-r6�E) o nella quantità o nella qualità o in nessun'altra categoria; sicché nulla si muove o muta al di fuori di esse. perché nulla esiste al di fuori di esse. Ciascuna categoria inerisce (ùmipXEL) a tutti i suoi soggetti in due modi: cosi ad esempio, per il sostanziale (-r6�E), come forma e privazione della fo rma; per la qualità, come bianco e come nero; per la quantità, come completo e come incompleto; parimenti, per il moto, come alto e come basso, come ìeggero e come pesante. Sicché del movimento e del mutamento si dànno tante specie quante ve ne sono dell'essere (-roù llv-roc;) » (N.d.T.) .

14

IL MONDO E LE TEORIE

2) La variazione di velocità di un corpo avviene nel verso della forza agente su di esso ; l'entità della variazione è direttamente pro­ porzionale alla forza agente e inversamente alla massa del corpo. 3) Se un primo corpo esercita una forza su un secondo corpo, questo esercita su quello una forza uguale e contraria. A tali leggi Newton ne aggiunse una quarta, quella della gravita­ zione universale : 4) Due punti materiali si attraggono con una forza, diretta se­ condo la congiungente i due punti, proporzionale al prodotto delle loro masse e inversamente proporzionale al quadrato della loro di­ stanza. Le leggi di Newton produssero una rivoluzione scientifica e filo­ sofica. Laplace le impiegò per dare una plausibile spiegazione mec­ canicistica del sistema solare. Esse costituiscono il fondamento per l'aviazione, la missilistica e l'astronomia, anche se non danno una risposta esauriente a molti dei quesiti sul movimento posti da Aristo­ tele. Le leggi di Newton hanno risolto il problema del movimento cosi come Newton stesso lo defini e non quello del movimento inteso in tutte le accezioni comunemente date a questo termine nel IV se­ colo a. C. o nel XX secolo. Le parole che adoperiamo si adattano alle nostre necessità quoti­ diane o, forse, a quelle dei nostri predecessori. Non è possibile, infatti, assegnare un termine ad ogni oggetto o evento diverso ; se cosi fosse, dovremmo continuamente coniare nuove parole e le comunicazioni diventerebbero praticamente impossibili. Per l'esistenza stessa di una lingua, occorre indicare con un'unica parola una molteplicità di cose o di eventi. Viene spontaneo dire che l'uomo e il cavallo corrono e fa comodo parlare di una corsa in banca, della corsa di uno stantuffo o di una corsa ciclistica. L'unità tra questi concetti permane assai piu nel linguaggio che non in qualsiasi analogia fisica di cui la scienza potrebbe occuparsi con facilità e precisione. Sarebbe vano cercare di impostare una teo­ ria scientifica elegante, semplice e utile su un concetto universale di corsa, comprendente in pari tempo la corsa del salmone e la corsa nei sacchi . Sarebbe ugualmente vano cercare di comprendere, in un'unica teoria, tutti i movimenti esaminati da Aristotele o i tipi di comunicazione e di informazione scoperti dai filosofi posteriori. Nel linguaggio corrente noi adoperiamo le parole in modo con­ veniente alle nostre esigenze normali. Salvo che nella glottologia, la scienza non arriva alla comprensione passando attraverso lo stu­ dio delle parole e dei loro nessi, ma guardando alle cose della natura, incluse la natura e l'attività umana, che possono essere raggruppate

15

e capite. Tale comprensione sta nella capacità di vedere ciò che vera­ mente hanno in comune eventi complessi o diversi (ad esempio, il moto dei pianeti nel cielo e le evoluzioni di un pattinatore sul ghiac­ cio) e di prevederne e descriverne con semplicità il comportamento. I termini adoperati nelle descrizioni scientifiche sono sovente presi dal linguaggio corrente. Newton usava i termini di forza, massa, velo­ cità e attrazione. Adoperati nella scienza, tuttavia, tali termini acqui­ stano un significato particolare, ristretto e spesso nuovo. Non pos­ siamo discutere in termini newtoniani la forza dell'abitudine, l'iner­ zia delle masse o l'attrazione di Brigitte Bardot. E neppure è da atten­ dersi che la teoria delle comunicazioni abbia qualcosa di sensato da dire su tutte le questioni che possiamo formulare usando i termini 'comunicazioni' o 'informazione'. È raro che una teoria scientifica offra una soluzione ai pressanti problemi da noi enunciati o fornisca una risposta ragionevole ai nostri molteplici quesiti. Piuttosto che razionalizzare le nostre idee, essa preferisce scartarle del tutto o, al massimo, !asciarle come prima. Essa ci dice, in maniera nuova e originale, quali aspetti della nostra esperienza possono essere convenientemente collegati e compresi age­ volmente. Questo libro si propone appunto lo scopo di trovare le idee, concernenti le comunicazioni, che possano in tal senso essere collegate e comprese. Una volta individuate le parti della nostra esperienza che si pre­ stano a simile collegamento e una volta che esse siano state collegate e comprese, avremo una teoria su tali questioni. Le leggi newtoniane sul moto costituiscono un settore importante della fisica teorica : la meccanica. Esse non sono tutta la teoria, ma semplicemente il fonda­ mento su cui essa poggia, cosi come gli assiomi o i postulati della geometria sono il fondamento della geometria stessa. La teoria com­ prende tanto le assunzioni quanto l'elaborazione matematica delle conseguenze logiche che da quelle assunzioni necessariamente discen­ dono. Naturalmente, perché la teoria abbia un valore, occorre che queste conseguenze siano in accordo con i fenomeni complessi del mondo in cui viviamo ; in caso contrario la teoria è priva di qualsiasi utilità. Le idee e le ipotesi di una teoria ne determinano il grado di genera­ lità, ossia delimitano il campo dei fenomeni a cui essa può applicarsi. Cosi le leggi newtoniane sul moto e sulla gravitazione sono già molto generali perché consentono di spiegare il moto dei pianeti, le proprietà del pendolo e il comportamento di ogni tipo di macchina e mecca­ nismo. Esse non spiegano tuttavia le radioonde. Le equazioni di Maxwell spiegano tutti i fenomeni elettrici (non

16

IL MONDO E LE TEORIE

quantistici) : esse sono dunque di portata molto generale. * Una bran­ ca della teoria elettrica, denominata teoria dei circuiti, si occupa delle proprietà dei circuiti ottenuti mediante la connessione di tre tipi ideali di strutture elettriche : resistenze (come un filo cattivo con­ duttore o le lamine metalliche o di carbone che si oppongono al pas­ saggio della corrente), induttanze (le spire di un filo di rame, avvolte talora su nuclei magnetici) e condensatori (sottili lamine di metallo separate da un dielettrico, come la mica o le materie plastiche ; la bottiglia di Leyda fu una prima forma di condensatore). Siccome la teo­ ria dei circuiti si occupa soltanto del comportamento elettrico di al­ cuni tipi di strutture fisiche ideali, mentre le equazioni di Maxwell descrivono il comportamento elettrico di qualsiasi struttura fisica, un fisico direbbe che la teoria dei circuiti è meno generale delle equazioni di Maxwell, le quali consentono di studiare non solo il comporta­ mento dei circuiti elettrici ideali, ma di tutte le strutture fisiche, in­ cluso, ad esempio, il comportamento delle radioonde che esorbita dal campo della teoria dei circuiti. Ovviamente, la teoria di portata piu generale, che fornisce una spiegazione per il maggior numero di fenomeni, è la piu potente ed è quindi preferibile ; essa infatti consente la trattazione dei casi semplici come casi particolari . Ecco perché i fisici hanno cercato di elaborare una teoria del campo unificato che comprendesse le leg­ gi meccaniche e quelle della gravitazione, nonché tutti i fenomeni elettrici. Da questi argomenti sembrerebbe possibile classificare tutte le teo­ rie per ordine di generalità, nel qual caso sarebbe interessante cono­ scere il posto che in tale gerarchia occuperebbe la teoria delle comuni­ cazioni. Sfortunatamente, le cose non sono cosi semplici come sem­ bra a prima vista. Da un lato, la teoria dei circuiti è meno generale delle equazioni di Maxwell ; dall'altro, essa può sembrare piu generale poiché tutti i risultati matematici della teoria dei circuiti sono vali­ di, oltre che per studiare il comportamento di connessioni di compo­ nenti elettrici ideali, anche per sistemi meccanici vibranti, costituiti da componenti meccanici ideali. Nelle applicazioni meccaniche la molla corrisponde al condensatore, la massa all'induttanza e l'am• Nel suo trattato Electricity and magnetism James Clerk Maxwell esponeva per la prima volta nel 1873 le leggi naturali relative ai campi elettrici e magnetici e alle correnti elettriche. Egli dimostrò che dovevano esserci onde elettromagnetiche (radioon­ de) aventi la velocità della luce. Piu tardi Hertz diede una conferma sperimentale a tali leggi e noi sappiamo che anche la luce è costituita da onde elettromagnetiche. Le equazioni di Maxwell sono l'enunciato matematico della teoria dell'elettricità e del magnetismo formulata da Maxwell. Esse sono il fondamento per la conoscenza di tutti i fenomeni elettrici.

17

mortizzatore (del tipo usato nelle porte per evitare che sbattano) corrisponde alla resistenza. In realtà, la teoria dei circuiti avrebbe potuto essere sviluppata per spiegare il comportamento dei sistemi meccanici e in acustica essa è effettivamente usata in tal senso. Il fatto che la teoria dei circuiti sia derivata dallo studio dei sistemi elettrici ideali piuttosto che dei sistemi meccanici ideali è una que­ stione di storia, non di necessità. Siccome tutte le equazioni della teoria dei circuiti sono applica­ bili a speciali sistemi meccanici ideali, come pure a speciali sistemi elettrici ideali, si può dire che la teoria dei circuiti è in un certo senso piu generale di quanto non lo siano le equazioni di Maxwell, le quali non sono applicabili a tutti i sistemi meccanici. D'altra parte, le equazioni di Maxwell sono piu generali della teoria dei circuiti, es­ sendo applicabili a tutti i sistemi elettrici e non soltanto a una spe­ ciale classe ideale di circuiti . * Sembra strano, m a è proprio cosi ; anche se non riusciamo a dare una spiegazione del tutto logica del fatto, possiamo dire che alcune teorie sono essenzialmente fisiche. Appartengono a tale categoria le leggi di Newton e le equazioni di Maxwell, le prime occupandosi dei fenomeni meccanici e le seconde dei fenomeni elettrici. Quella dei circuiti, invece, è una teoria essenzialmente matematica. I termini in essa usati possono assumere diversi significati dal punto di vista fisico ; la teoria ha cose interessanti da dire su fenomeni fisici diversi , sulle vibrazioni meccaniche come sulle oscillazioni elettriche. Sovente una teoria matematica deriva da una o da diverse teorie fisiche. Essa può essere l'elegante formulazione e trattazione matema­ tica di certi aspetti di una teoria fisica generale. La teoria dei circuiti è appunto una trattazione matematica di un dato comportamento fisico comune a dispositivi elettrici e meccanici. Una branca della matematica, denominata teoria del potenziale, si occupa dei problemi comuni ai campi elettrici, magnetici e gravitazionali e, per certi ri­ guardi, all'aerodinamica. Alcune teorie sembrano tuttavia, per con­ cezione, piu matematiche che fisiche. Quando ci si occupa del mondo fisico, si ricorre a molte teorie mate­ matiche di tal genere. L'aritmetica è una di esse. Se a un elemento di un gruppo di mele, cani o uomini assegniamo il valore l , a un altro il valore 2, ecc. e se, nel catalogare tutti i componénti del gruppo, abbiamo adoperato i primi 16 numeri, siamo sicuri di poter dividere * Soprattutto, però, in quanto le equazioni della teoria dei circu�ti sono completa­ mente derivabili dalle equazioni di Maxwell, mentre la loro estens i one analogica ai fenomeni meccanici è basata su argomenti completamente estranei alle teorie dell'elet­ tricità (N.d.T.).

18

IL MONDO E LE TEORIE

il gruppo di oggetti in due altri gruppi uguali, ognuno contenente 8 oggetti ( 1 6 : 2 = 8) o di poter disporre gli oggetti in un quadrato di quattro righe parallele di quattro oggetti ciascuna (poiché 1 6 = 42). Inoltre, se allineiamo le mele, i cani o gli uomini in una riga, vi sono 20 922 789 888 000 possibili modi in cui essi possono essere ordinati in una sequenza, corrispondenti ad altrettante possibili maniere di ordinare i primi sedici numeri naturali . Se invece dei primi 1 6 numeri adoperassimo soltanto i primi 1 3 nel catalogare tutti gli oggetti del gruppo, saremmo allora sicuri di non poter ripartire il gruppo stesso in un numero qualsiasi di mucchi uguali, poiché 1 3 è un numero primo e come tale non è esprimibile in forma di prodotto di fattori. Non sembra che ciò dipenda dalla natura degli oggetti. Finché possiamo assegnare dei numeri agli elementi di un insieme, i ri­ sultati ottenibili mediante addizione, sottrazione, moltiplicazione e divisione oppure mediante disposizione dei numeri in sequenza per­ mangono veri. Il nesso tra i numeri e gli insiemi di oggetti sembra cosi naturale da farci dimenticare che l'aritmetica è essa stessa una teoria matematica la cui applicabilità alla natura vale fintantoché le proprietà dei numeri corrispondono a quelle del mondo fisico. Per i fisici ha senso parlare del numero totale di un gruppo di parti­ celle elementari, come gli elettroni, ma alle singole particelle non è possibile assegnare un numero particolare, poiché esse sono delle entità materialmente indistinguibili. Cosi non si può parlare di ordi­ nare in modi diversi tali particelle, come succedeva per i numeri che possono essere disposti in sequenze differenti . Da questo fatto sono scaturite conseguenze molto importanti per quella branca della fi­ sica denominata meccanica statistica. Si noti anche che, mentre la geometria euclidea è una teoria matematica perfettamente adeguata alle esigenze degli agrimensori e dei navigatori, si ha ragione di rite­ nere che essa non sia sufficientemente precisa a descrivere i fenomeni astronomici. Come si possono classificare le teorie ? Riguardo al campo di ap­ plicabilità una teoria può essere o molto ristretta o molto generale. La distinzione può anche poggiare sul fatto che esse sono essenzialmente fisiche o essenzialmente matematiche. Rientrano nella prima catego­ ria quelle teorie che descrivono compiutamente una data gamma, in in pratica sempre limitata, di fenomeni fisici. Alla seconda categoria ap­ partengono invece quelle teorie che si occupano di una classe ideale di fenomeni o soltanto di certi aspetti dei fenomeni. Le leggi di Newton sono essenzialmente fisiche nel senso che consentono una descrizione completa dei fenomeni meccanici, come il movimento dei pianeti o il comportamento di un pendolo. La teoria dei circuiti, invece, è

19

piuttosto matematica o astratta nel senso che serve a studiare una certa varietà di fenomeni fisici ideali. L'aritmetica è essenzialmente matematica e astratta. Essa può adattarsi indifferentemente a una particolare proprietà di molte entità fisiche, alla numerazione dei cani, degli uomini e, pur di rammentare che gli elettroni sono indi­ stinguibili, degli elettroni. Essa serve perfino a computare il numero dei giorni. In questo senso la teoria delle comunicazioni � essenzialmente matematica e assai generale. Sebbene derivi dallo studio delle co­ municazioni elettriche, essa affronta i problemi in maniera astratta e del tutto generale. Essa fornisce, col bit, una misura universale di quantità di informazione in termini di scelta o indeterminazione : quando si specifica, o si conosce, la scelta tra due alternative equi­ probabili, che potrebbero essere messaggi o numeri da trasmettere, si implica un bit di informazione. La teoria delle comunicazioni ci dice quanti bit al secondo si possono inviare in certi canali di comuni­ cazione, sulla scorta di descrizioni piuttosto astratte delle loro pro­ prietà. Da essa apprendiamo come misurare la velocità con la quale una sorgente di messaggi (ad esempio un individuo che parla o che scrive) genera informazioni ; come rappresentare, o codificare, i mes­ saggi provenienti da una data sorgente al fine di ottenere la migliore trasmissione in un particolare tipo di canale, quale è un circuito elettrico, e infine come evitare errori di trasmissione. Dato che la teoria delle comunicazioni si occupa di tali questioni in termini molto generali e astratti, è talvolta difficile utilizzare l'ap­ porto che essa ci fornisce riguardo a certi problemi pratici. Grazie però alla sua formulazione puramente matematica, essa ha un cam­ po vastissimo di applicazione. Infatti, essa è utile per l'analisi della lingua scritta e parlata, come pure per l'analisi della trasmissione per via elettrica e meccanica dei messaggi, del comportamento delle macchine e, forse, di quello dell'uomo. Alcuni ritengono che la sua influenza si estenda alla fisica, come avremo occasione di vedere alla fine di questo libro. La teoria delle comunicazioni è però, come la descrisse Shannon, essenzialmente matematica. I concetti vi sono formulati in termini matematici, per i quali si possono fornire svariati esempi fisici. È vero che la teoria può servire agli ingegneri, come pure agli psicologi e ai fisici, ma è anche vero che essa è, e rimane, una teoria essenzial­ mente matematica piuttosto che fisica, psicologica o tecnica. Non è agevole presentare in termini facilmente accessibili una teoria matematica qual è quella delle comunicazioni e pretendere di discuterla omettendo del tutto la trattazione matematica sarebbe

20

IL MONDO E LE TEORIE

ridicolo. Non desterà quindi sorpresa se qua e là s'incontreranno equazioni e formule che servono a precisare meglio i concetti de­ scritti a parole ; al fine di agevolare il lettore non matematico nell'in­ terpretazione delle formule, è stata aggiunta un'appendice sulle nota­ zioni matematiche. È risaputo che la matematica richiama sovente alla memoria spia­ cevoli immagini di moltiplicazioni, divisioni e radicali, con le espe­ rienze non sempre piacevoli delle scuole medie superiori. Cotesta concezione della matematica porta alquanto fuori strada, poiché mette l'accento su notazioni speciali e sugli artifici usati nei passaggi, piut­ tosto che su quell'aspetto della matematica che è piu importante per i matematici. Il lettore si sarà forse imbattuto nei teoremi e nelle dimostrazioni della geometria, forse li avrà ignorati, eppure teoremi e dimostrazioni sono essenziali per tutta la matematica pura e appli­ cata. I risultati che contano nella teoria della informazione sono enun­ ciati in forma di teoremi matematici ed essi sono teoremi solo per­ ché è possibile dimostrare che sono proposizioni vere. I matematici partono da ipotesi e definizioni per dimostrare, me­ diante ragionamento rigoroso, la verità di certi asserti o teoremi. È quanto fece Shannon nella citata Teoria matematica delle comunica­ zioni. La verità di un teorema dipende dalla validità delle ipotesi ac­ cettate, come pure dalla validità del ragionamento o dimostrazione seguiti per stabilirla. Tutto ciò è pura astrazione. Per dare una migliore idea del signifi­ cato di 'teorema' o di 'dimostrazione' conviene ricorrere a degli esempi. Con questo, però, non si può chiedere al lettore generico di comprendere, in tutti i partico i ari, i non facili problemi della teoria delle comunicazioni. In realtà, per comprendere appieno le dimostra­ zioni di tali teoremi, occorrono tempo e concentrazione, perfino per chi abbia una solida preparazione matematica. Tutt'al piu cercheremo qui di farne comprendere il contenuto, il significato e l'importanza. Un espediente potrebbe consistere nel fornire alcuni esempi dei teoremi e delle dimostrazioni piu semplici. Il primo esempio è dato da un gioco denominato hex o nash. Il teorema da dimostrare af­ ferma che il giocatore che muove per primo può vincere. Il nash si gioca su una scacchiera di quarantanove caselle esagonali, rappresentata nella FIG. l, sulla quale si possono piazzare delle pe­ dine. Uno dei due giocatori ha le pedine nere e cerca di disporle in modo da formare una linea continua, anche se ondeggiante, che con­ giunga l'area nera a sinistra con l'area nera a destra. L'altro gioca­ tore ha le pedine bianche e cerca di disporle analogamente tra l'area bianca alla sommità e l'area bianca al fondo della scacchiera. I gio-

21

catori si alternano nel gioco, ciascuno avendo diritto a una mossa nella qua e può disporre sulla scacchiera una sola pedina. È ovvio che uno dei due deve incominciare a giocare. Per dimostrare che il primo può vincere, occorre anzitutto di­ mostrare che, terminato il gioco, quando ogni casella sia occupata da una pedina bianca o nera, uno dei due giocatori deve aver vinto. TEOREMA 1. Uno dei due giocatori vince.

Discussione.

In alcuni giochi, come negli scacchi, può darsi che

non vinca nessuno dei due giocatori ossia il gioco può terminare alla pari. A testa e croce, deve necessariamente vincere uno dei due. Ai fini del teorema basta dimostrare che, quando tutte le caselle siano occupate da una pedina nera o bianca, deve esservi una linea nera tra i settori neri tale da interrompere qualsiasi possibile linea bianca tra i settori bianchi o viceversa, sicché o il bianco o il nero deve aver vinto.

Dimostrazione.

Supponiamo che tutte le caselle siano occupate

da una pedina nera o bianca. Incominciamo dall'angolo sinistro del bordo bianco superiore, punto I della

FIG. 2,

e tracciamo il con­

fine tra gli esagoni (o i bordi) bianco e nero . Procederemo sempre lungo un lato col nero a destra e il bianco a sinistra. Il confine cosi tracciato cambierà direzione ai successivi angoli, o vertici, in cui s'in­ contrano i lati degli esagoni. In corrispondenza di un angolo pos­ siamo avere soltanto due condizioni essenzialmente diverse. O vi saranno due esagoni neri che si toccano a destra e un esagono bianco a sinistra (come nella

FIG. 3a),

oppure due esagoni bianchi che si

toccano a sinistra e uno nero a destra (come nella

FIG, 3b).

In ciascuno

dei due casi vi sarà un percorso continuo nero a destra del confine in un percorso continuo bianco a sinistra dello stesso . Notiamo inol­ tre che né in

a) né in b) il confine può attraversare se stesso o ricoprirsi,

poiché c'è un solo percorso attraverso il vertice che lascia il nero a destra e il bianco a sinistra. È facile riscontrare che questi due fatti sono veri per i confini tra i bordi neri e bianchi e gli esagoni come pure per i confini tra gli esagoni neri e bianchi. Cosi, sul lato sinistro del confine dev'esserci un percorso continuo di esagoni bianchi verso il bordo bianco superiore, mentre sul lato destro del confine dev'esserci un percorso continuo di esagoni neri fino al bordo nero sinistro. Siccome il confine non può attraversare se stesso, esso non può girare indefinitamente in un circolo, ma deve alla fine raggiun­ gere un bordo nero o uno bianco . Se il confine raggiunge un bordo nero o uno bianco con il nero alla destra e il bianco a sinistra, come abbiamo stabilito, in un punto diverso dall'angolo II o III, possiamo

22

IL MONDO E LE TEOR IE

Fig. l Il

IV Fig. 2

a)

Ili

b)

Fig. 3

23

estendere ulteriormente il confine con il nero a destra e il bianco a si­ nistra. Di conseguenza, il confine raggiungerà o il punto II o il pun­ to III. * Se raggiunge il punto II, come illustrato nella FIG. 2, gli esa­ goni neri a destra, che sono collegati al bordo nero sinistro, saranno anche collegati al bordo nero destro, mentre gli esagoni bianchi a sinistra saranno collegati soltanto al bordo bianco superiore, e il nero avrà vinto. È chiaro che non può aver vinto anche il bianco, poiché la fascia continua di caselle nere adiacenti dal bordo sinistro a quello destro rende impossibile l'esistenza di una fascia continua di caselle bianche fino al bordo inferiore. Con un analogo ragio­ namento si può dimostrare che se il confine raggiunge il punto III, il bianco avrà vinto. TEOREMA

II. Il giocatore che muove per primo può vincere.

Discussione. Con può si intende che vi è un modo per vincere, a

condizione che il giocatore lo conosca. Esso consisterebbe in una prima mossa particolare (potrebbe essere ammessa piu di una mossa, ma ciò non è necessario) e in un sistema, una formula o altra prescrizione, che consenta una mossa corretta dopo qualunque mossa dell'avversa­ rio in una qualunque fase successiva del gioco, tale che, se dopo ogni mossa dell'avversario il primo giocatore fa la mossa prescritta, egli vincerà indipendentemente dalla mossa che può fare l'avversario. Dimostrazione. O dev'esserci un metodo di gioco che se attuato dal primo giocatore gli assicurerà la vittoria, o altrimenti, indipen­ dentemente da come gioca il primo, il secondo giocatore deve poter scegliere le mosse che, precludendo la vittoria all'avversario, l'assi­ cureranno a se stesso. Supponiamo che il giocatore cui tocca la seconda mossa abbia una formula sicura per vincere. Supponiamo ancora che il giocatore avente diritto alla prima mossa inizi in un modo qualsiasi e quindi, dopo una mossa dell'avversario, egli appli­ chi la formula di gioco che, secondo l'ipotesi, dovrebbe consentire la vittoria al giocatore avente diritto alla seconda mossa. Se in un qual­ siasi momento una mossa richiede il piazzamento di una pedina su un esagono occupato da una pedina che egli ha già giocato, egli può collocare la propria pedina su qualsiasi altra casella libera. In tal modo la casella che, secondo la formula di gioco, dev'essere occupata diventa effettivamente impegnata dal primo giocatore. Il fatto che, giocando per primo, egli abbia una pedina in piu sulla scacchiera impedisce all'avversario di occupare un esagono particolare ; il primo • I l punto IV non può essere raggiunto dal confine, perché da qualsiasi punto lo si voglia raggiungere si avrà o il bianco a destra o il nero a sinistra (N.d.T.).

24

IL MONDO E LE TEORIE

giocatore invece può occuparne uno qualsiasi e di conseguenza può occupare gli esagoni prefissati dalla formula e deve vincere. Questa conclusione esclude l'ipotesi che il giocatore cui tocca la seconda mossa può vincere, sicché tale ipotesi deve essere falsa. Deve invece poter vincere il giocatore avente diritto alla prima mossa. Un matematico purista non troverebbe eccessivamente rigorose queste dimostrazioni nella forma ora data. La dimostrazione del teorema II ha un altro aspetto interessante : essa non è costruttiva, ossia non mostra al giocatore cui tocca la prima mossa, e che per principio può vincere, come procedere per ottenere la vittoria. Da­ remo subito un esempio di dimostrazione costruttiva. Prima, però, vogliamo fare qualche considerazione filosofica sulla natura dei teoremi e sulla necessità di dimostrarli. I teoremi matematici sono già compresi essenzialmente nell'enun­ ciazione rigorosa del problema generale. Che il giocatore cui tocca la prima mossa possa vincere al nash è conseguenza necessaria del­ l'aver stabilito il gioco e le sue regole. I teoremi della geometria eu­ clidea sono conseguenza necessaria dei postulati enunciati. Disponendo di intuito e perspicacia sufficienti potremmo forse vedere subito la verità dei teoremi. Pare che Newton da giovane trovasse ovvi i teoremi di Euclide e che si spazientisse con le loro di­ mostrazioni. Di solito i matematici, mentre possono intuire o ipo­ tizzare la verità di certi enunciati, debbono dimostrare i teoremi per esserne certi. Newton stesso fini per riconoscere l'importanza della dimostrazione e dimostrò a sua volta molti nuovi teoremi usando i metodi di Euclide. Di solito i matematici debbono procedere per gradi prima di giun­ gere alla impostazione sicura di un problema. Piu che vedere tutto in un lampo, essi dimostrano laboriosamente un teorema dopo l'al­ tro e hanno bisogno delle dimostrazioni per convincere gli altri. Talvolta a un matematico è necessario dimostrare un teorema per convincere se stesso, perché gli sembra contrario alla logica. Prendiamo, ad esempio, il seguente problema. Consideriamo il qua­ drato di lato unitario rappresentato nella parte sinistra della FIG. 4 : possiamo individuare qualsiasi punto nel quadrato median­ te due numeri : y, la quota del punto rispetto alla base del quadrato (ordinata del punto) e x , la sua distanza dal lato sinistro del quadrato stesso (ascissa). Ciascuno di questi numeri sarà minore di l . Ad esempio, il punto P indicato in figura sarà rappresentato da x = 0,547 000 . . (seguito da un numero infinito di zeri), y = 0,3 1 2 000 . . (seguito da un numero infinito di zeri). Supponiamo di far corrispondere ai punti del quadrato i punti .

.

25

sul segmento, di modo che ad ogni punto su quest'ultimo corrisponda uno e un sol punto nel quadrato e viceversa. In tal caso diciamo di aver rappresentato il quadrato sul segmento, o di aver ottenuto una corrispondenza biunivoca tra i punti del quadrato e i punti del seg­ mento. TEOREMA. È possibile ottenere una corrispondenza biunivoca tra un quadrato di area unitaria e un segmento di lunghezza unitaria. Dimostrazione. Prendiamo le cifre successive dell'ordinata del pun­ to nel quadrato e consideriamole come la prima, la terza, la quinta, ecc. cifra di un numero x '. Prendiamo ora le cifre dell'ascissa del punto P e consideriamole come la seconda, la quarta, la sesta, ecc. cifra dello stesso numero x'. Sia x ' la distanza del punto P' dall'estre­ mo sinistro del segmento. Allora, nella corrispondenza biunivoca qui considerata, il punto P' è l'immagine, sul segmento, del punto P del quadrato. Notiamo che, variando x oppure y, x' assumerà un nuovo valore e, variando x' , assumeranno nuovi valori x e y. Ad ogni punto x , y nel quadrato corrisponde uno ed un sol punto x' sul segmento e viceversa, e questo è il requisito della corrispondenza biunivoca.* Nel caso dell'esempio citato dianzi x

y x

'

0,547 00 0 0,3 12 000 0,35 1 427 000

Per la maggioranza dei punti, compresi quelli individuati da nu­ meri irrazionali, la successione illimitata delle cifre rappresentanti il punto non si ridurrà a una serie di zeri né conterrà cifre periodica­ mente ricorrenti. Qui abbiamo un esempio di dimostrazione costruttiva. Noi dimo­ striamo che ad ogni punto di un quadrato si può far corrispondere biunivocamente un punto su un segmento, fornendo nel contempo un procedimento esplicito per ottenere tale corrispondenza. Molti mate­ matici preferiscono le dimostrazioni costruttive a quelle non costrut­ tive ; in particolare i matematici intuizionisti non accettano dimo­ strazioni non costruttive nella teoria degli insiemi infiniti, dove non è possibile, per una data proprietà, esaminare se essa sia o no go­ duta da ogni singolo elemento dell'insieme. Esaminiamo ora un'altra questione relativa alla rappresentazione • Questa dimostrazione conduce a difficoltà risolvibili nel caso di certi numeri, come ad esempio Y,, che è rappresentabile in forma decimale c