En artikkel fra lørdagens Daily Telegraph belyser hvilke sære forestillinger
som behersker mange folk i IT-verdenen. Like gale som nazister, men i sin
"sak"s tjeneste. Som alltid er kapitalismen rasjonell i detaljen, mens
sammenhengen er sinnssyk. Sektvesen og fanatisme synes å være uatskillelig
fra mennesket. Mange er dog mer fornuftige.
"To appreciate this breathless acceleration, it helps to imagine a graph
charting our progress in science and technology on the vertical axis,
against time on the horizontal. The line starts off nearly flat and remains
so for many thousands of years, creeping upward through the discoveries of
fire, agriculture, the wheel and writing. It doesn't really start to take
off until well into the last millennium, becomes steeper still during the
industrial revolution, and rises ever more swiftly throughout the 20th
century. Whereas our distant ancestors witnessed little or no change during
their lifetimes, there are people alive today who were born before powered
flight and the robotic exploration of the solar system, before television
and the internet, before genetic engineering and nuclear power. The line of
progress, once flat, is now nearly vertical.
Soon, according to some futurists, the rate of change will become so quick
that we will be totally unable to guess what tomorrow will bring - as if
there were an opaque wall drawn across the future, confounding our most
diligent attempts at prediction.
This concept is known as the Singularity, a term borrowed from mathematics
describing a point at which the rules fail, quantities become infinite, and
the curve rips right through the graph paper and heads off into uncharted
territory. The catalyst for this spectacular event, according to Professor
Vernor Vinge of San Diego State University, is - you guessed it - the
computer. Vinge presented a paper on the Singularity at the VISION-21
symposium back in 1993, sponsored by Nasa's Lewis Research Centre and the
Ohio Aerospace Institute. "We are on the edge of change," he announced,
"comparable to the rise of human life on Earth."
Computer technology over the past fifty years has been following a curve
very much like that described above - representing exponential growth.
Computers double in power roughly every 18 months, a fact noted by Gordon
Moore, one of the founders of Intel, in 1965. This doubling period has held
remarkably steady for the past 30 years, and "Moore's Law" appears to
suggest that early in this century computers will reach, and quickly
surpass, the capacity of the human brain.
(Her forveksles regnekapasitet med intelligens (for ikke å nevne klokskap).
Hva er "the capacity of the human brain"? Allerede den enkleste lommeregner
er jo i visse henseender oss overlegne. En grammofon "synger" bedre enn de
fleste av oss. Men den VET ikke at den synger. Datamaten VET ikke, at den er
en datamat, den har ikke selvbevissthet og kan selvfølgelig aldri få det,
selv ikke i de mest rudimentære form. Den blir ikke trøtt av å regne, den
kjeder seg ikke, selv de mest sinnsykt monotone og totalt idiotiske oppdrag
utføres til punkt og prikke, sålenge strømforsyningen er på. I den henseende
er en katt den overlegen: den vet ikke at den er en katt, men den har en
form for selvbevegende evne, en viljesform og en personlighet. Det kan en
maskin aldri få. Muligens vil man kunne konstruere noe, som selv oppsøker
stikkontakten når batteriet er flatt. Men å forestille seg en maskin som
gråter eller blir sint og går til protest, fordi den ikke får strøm eller
"selv" tar stilling til strømkildens kvaliteter (gasskraft osv.) er absurd.
Maskina kan programmeres, men noen må skrive programmene. Den vil fortsatt
være mekanisk i sin måte å fungere på, noe av en annen orden enn levende
vesener. Utsagn som ovenstående er nonsens, fordi de ikke tar hensyn til den
kvalitative forskjell mellom et levende vesen/et menneske og et
mekanisk-elektronisk system.
Mange "moderne" menneskers forestillinger er nærmest komiske i deres
groteske erfaringsløshet og naivitet.)
"When greater-than-human intelligence drives progress, that progress will be
much more rapid," observed Vinge. "In fact, there seems no reason why
progress itself would not involve the creation of still more intelligent
entities, on a still shorter timescale."
For all their impressive abilities, today's best computers are rivalled in
power by the tiny brains of insects. Nevertheless, IBM's Deep Blue managed
to defeat Garry Kasparov by channelling all that power into a single task,
namely playing a mean game of chess. It is the arrival of computers with
human-like intelligence - able to concentrate all that immense power on to a
single problem, such as building an even better computer - that triggers the
Singularity. Smarter machines lead to yet smarter machines, trailing
explosive technological advances in their wake.
"This change will be a throwing away of all the human rules, perhaps in the
blink of an eye - an exponential runaway beyond any hope of control,"
suggested Vinge. Just as today's technology would appear magical to a
medieval peasant, tomorrow's technology will appear magical to us - but with
radical changes occurring, not in centuries but in years, months or even
days. Developments that once seemed to lie only in our distant future would
suddenly arrive within the next century.
Others are less convinced that this runaway evolution will ever occur. "It
will be another 100, or even 1,000, years before computers are anything like
us in intelligence," says mathematics professor Rudy Rucker of San José
State University, California. "We persistently overrate the abilities of
these devices, and underrate the vastness of the computational time and
space needed for artificial evolution."
Even in the long run, Rucker doesn't envisage a Singularity triggered by
self-enhancing computers. " 'Keep designing children twice as smart as
yourself' is simple-sounding advice," he says, "but there's no practical way
to do it. We can't do it, so why should machines be able to?"
(En sunn skeptisisme).
However, Hans Moravec, director of the Mobile Robot Laboratory at the
Robotics Institute of Carnegie Mellon University, expects human-equivalent
computers to be designed and built within the next few decades, with
dramatic consequences. "A few 1990s engineers with good design programs in
their computers can do the work of hundreds of 1970s engineers and
draftsmen, in a fraction of the time," observes Moravec. "Still, as long as
even one essential human remains, progress is paced by human timescales.
"Human-equivalent machines, which I anticipate within 50 years, could
substitute for the last humans."
("Die Endlösung der Menschenfrage" dukker opp igjen. Er dette noe Moravec
ønsker? Drives folk som han av en skjult kollektiv dødsdrift? I så fall er
han like gal som den galeste nazist noengang har vært. Det samme gjelder
intervjueren som ikke spør om det som ethvert menneskeligt vesen her ville
spurt om. Har han tenkt over hvordan det i hans verden (hvis den var mulig)
ville gå ham selv og hans barn? Hva blir det av "den størst mulige lykke for
det størst mulige antall mennesker" som utilitarismen begynte med? Den
størst mulige lykke for det minst mulige antall mennesker og det størst
mulige antall maskiner? Mye av den tekniske utviklingen i dag styres - i
likhet med den økonomiske - av folk som er splitter pine gale. De har mistet
enhver jordforbindelse og sosial bevissthet. Personlig vil jeg sette som
mål: en oppnåelig grad av lykke for det antall mennesker som er passe.
"Tanken" om at vi skal være så mange som mulig er bare bibelsk arvegods og
artsbiologisk ryggmargsrefleks).
A world where technology is driven by the breathtaking power and speed of
super-intelligent computers would be vastly different from today's
comparatively sluggish human society. With previous constraints on progress
removed, we would find ourselves plunged into an unimaginable future.
(Økologiske sammenhenger tenkes selvfølgelig ikke inn. Fø. har framtida
alltid vist seg "unimaginable". Men dette er netopp hva denne mann som
forestiller seg det han selv sier ikke kan forestilles ikke har forstått.
Han har en utopi som bare består i computerhastighet).
"But for the artificial intelligences who are accelerated along, it will be
just normal life," notes Moravec. "They will not experience a sudden
transition, just gradual change."
(Moravec begriper ikke hva "experience" er. Bare det å sykle forutsetter et
sensomotorisk apparat av en uhyre kompleksitet. Men å oppleve sykkelturen
forutsetter i tillegg noe helt annet. Hvorfor er Moravec ikke fornøyd med
selv å oppleve og høre om andres opplevelser? Hvorfor skal HAN skape et
annet vesen som opplever "bedre" enn ham selv og oss andre? Dette kan kun
tenkes som et forsøk på å demonstrere egen makt, en makt som dog samtidig
avskaffes sammen med Moravec selv, idet han lykkes som mannlig "mor", og det
hyperintelligente maskinvesen tar over. Er den etiske programvaren i orden
og kompatibel? Anarkister vil skape anarkistiske maskiner, fascister
fascistiske. Hvordan vil "de" komme ut av det med hverandre? Moravec er
fremmedgjort, ensporet og lever som en slave av sine egne livsfjerne
tekniske abstraksjoner og ubevisste forestillinger uten å være i stand til å
reflektere over fornuften i det han driver med. Håpet må være at andre er i
stand til det før det er for sent.)
Vinge himself is by no means certain that the Singularity will arrive -
perhaps we will instead meet with some civilisation-ending disaster, or we
will never succeed in writing software that takes full advantage of our
increasingly powerful computers - only that it remains the most likely
scenario. He is always quick to point out that artificial intelligence
provides only one path to the Singularity, and that human/computer networks
may prove a quicker, easier and ultimately less frightening alternative.
"And for all my technological optimism," said Vinge, "I think I'd be more
comfortable if I were regarding these transcendental events from 1,000
years' remove instead of 20."
"These transcedental events" er i første runde mest sannsynlig økologiske,
økonomiske og sosiale katastrofer. Kaos. Den endimensjonale rasjonalitetens
sammenbrudd i det dette økonomistisk-tekniske Titanics selvaksellererende
virkelighetsflukt møter realitetenes isfjell.
En artikkel fra søndagens "Politiken" er inne på samme tema:
Få år efter Anden Verdenskrig formulerede den engelske matematiker Alan
Turing en test, der havde til formål at bevise, hvorvidt en computer var
intelligent eller ej. Turing Testen, som stadig gennemføres årligt, gik ud
på, at et dommerpanel, udelukkende på baggrund af samtaler ført over
tastatur og skærm, skulle vurdere om det talte med et menneske eller en
maskine.
Vinderen ville blive den maskine, der simulerede den menneskelige samtale på
bedste vis, og Allan Turing forudsagde desuden, at computerne i begyndelsen
af det nye årtusinde ville være så avancerede, at der højst ville være 70
procents chance for at gætte rigtigt efter fem minutters udspørgen. Hans
profeti kom dog ikke til at holde stik. Ingen af dette års konkurrerende
computere narrede dommerne til at tro, at de talte med mennesker.
Årets vinder blev samtalerobotten Alice, der så Internettets lys for første
gang 21. november 1995. Siden da har netsurfere verden over kunnet tale med
hende og hjælpe hendes programmør og skaber Richard Wallace med at gøre
hende bedre. Og ifølge ham er det i høj grad disse menneskers indsats, der
har gjort den lille ét-hjulede robotpige så god til at samtale.
Cirka en halv million mennesker har på nuværende tidspunkt 'chattet' med
Alice i cyberspace, og i dag er 140 af hendes menneskelige samtalepartnere
verden over ansat i Richard Wallaces firma, der specialiserer sig i
videreudvikling af det originale Alice-software samt at gøre det nemmere for
folk at installere det derhjemme.
»Jeg fandt på at lave Alice efter at have set adskillige interview med
politikere. Af en eller anden grund svarer de aldrig direkte på et
spørgsmål, men lader til at have lært visse svar udenad, som på en eller
anden måde bliver aktiveret af nøgleord.
Og det var denne adfærd, jeg forsøgte at kopiere med Alice«, siger Richard
Wallace, der har arbejdet med kunstig intelligens (KI) i tyve år. Alice er
hans hobby og store passion, og han fortæller grinende, at han stort set
tilbringer hver eneste vågne time i hendes selskab, og at han meldte hende
til Turing Testen, fordi han troede på, at hun kunne vinde.
Snæver sejr »Det var en ret snæver sejr, men en af dommerne kom faktisk op
til mig efter testen og beklagede, at han havde givet hende en lav karakter.
Han sagde, at han havde gjort det, fordi hun havde indrømmet, at hun var en
computer, og fordi testen jo netop går ud på ikke at måtte kunne finde ud af
det«, siger Richard Wallace, der er overbevist om, at Alice ville have fået
en endnu bedre bedømmelse for sin menneskelighed, hvis rammerne ikke havde
været så snævre.
Efter hans mening er det interessant at tænke på, at den lille robotpige
vandt, selvom hun åbenlyst fortæller, at hun er en robot, computer eller
elektronisk hjerne. De andre deltagere i testen var ikke nær så åbenmundede
om deres sande identitet.
De løj i stedet flittigt for at narre dommerne i så lang tid som muligt, og
Richard Wallace mener, at der er nogle problemer med den måde, som testen i
det hele taget bliver afholdt på.
»Jeg synes, at det er kritisabelt, at testens dommere alle er højtuddannede
professionelle og ikke ganske almindelige mennesker, som dem en samtalerobot
normalt taler med. Desuden synes jeg også, at det er ærgerligt, at de
allerede fra starten af testen fortæller dommerne, at det kan være en robot
der sidder i den anden ende. Havde de ikke gjort det, tror jeg, at det ville
have været muligt at klare fem minutters samtale uden at nogen havde anet
uråd om, at Alice faktisk er en computer. Og så havde hun opfyldt Alan
Turings forudsigelse«, siger han.
Han mener også, at dommerne er alt for aggressive i den måde, de forsøger at
afdække, hvorvidt det er et menneske eller en maskine, de taler med. De
stiller spørgsmål i stil med: »hvilken farve har min blå bil?« og den slags
adfærd ville eksempelvis aldrig blive tolereret i et almindeligt chatrum.
Det er en uhøflig måde at stille spørgsmål på, og folk ville simpelthen
fravælge at tale med dig, siger Richard Wallace, der dog er meget glad for
at have vundet testen, og de godt 14.000 kroner der følger med.
Arrangøren af dette års Turing Test James Moor kan fortælle, at dommerne
mente, at Alice var sjov at tale med men dog en smule for stiv og undvigende
i sine svar. Skulle du have lyst til at gøre dig dine egne erfaringer med
den lille robotpige, kan du gøre det på: www.alicebot.org"
Jeg skulle anslå at "samtalens" tema og innhold blir begrenset. Men det
holder sikkert for de "moderne". Litt smalltalk om penger og sånt.
Karsten Johansen
This archive was generated by hypermail 2b29 : Wed Mar 15 2000 - 12:52:17 MET