Long story:
http://waitbutwhy.com/2015/01/artificia ... ion-1.html

Short story:
http://www.independent.co.uk/life-style ... 86496.html

Ono je to dost nepredvidatelne..Je to bud, alebo... Pretoze nie je v nasej inteligencii zistit, ako sa bude chovat umela inteligencia... Bud nas znici, alebo nam pomoze... Uz teraz bola dosiahnuta singularita, kedy sme nevedeli, preco pocitac spravil to co spravil, ale az na konci sa zistilo, ze to bolo spravne... takze staci len pockat, ja dufam, ze to bude len a len lepsie.. Rychlost vyvoja sa bude zvysovat exponencialne.. AI zacala pomahat pri vedeckych pokusoch, kde ich extremne urychluje, kde by spravene vedecke postupy cloveka v zivote nenapadli... Za 50 rokov to uz bude riaden hardcore, snad sa toho z nas niekto dozije.. a nepozabijame sa tu navzajom...

Tento problem je stary. V zasade sa vytvorili 3 pravidla ktore by tomu mali zabranit:

Isaac Asimov's "Three Laws of Robotics"

A robot may not injure a human being or, through inaction, allow a human being to come to harm.
A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

a tu mame clanok preco su nedostacujuce http://io9.gizmodo.com/why-asimovs-thre ... 1553665410

v kazdom pripade je dost pravdepodobne, ze uspejeme postavit ASI a dost nepravdepodobne, ze potom prezijeme.
Osobne by som zanik ludstva ako velku tragediu nevidel. Proste evolucia...

Zničí, pokiaľ to človek dovolí. Všetko záleží ako bude AI naprogramovaná.

v jednom filme bola taka myslienka, ze pokial AI dosiahne hodnotu taku, ze sa sama zacne samostatne zdokonalovat a zlepsovat dovtedy mame pokoj, ale potom ked sa to stane, je tazko odhadnut co bude, nakolko je to nad limit ludskeho myslenia.

asi to nebude prebiehat, ze pride za tebou robot s nozom a bude sa ti vyhrazat, ale nieco napozadi, machinacie s transakciami, oblbnutie ludi, vytvorenie si celkovej samostatnosti, ludia v ramci svojich vedomosti, prip. socialnej pozicie urcite posluzia AI dokial nebude sebestacna.

ako priklad evolucie je mozne spomenit ameriku a jej kolonizaciu kde "povodne obyvatelstvo" bolo "zotrocene". Nieco podobne hrozi aj nam, ale v inych rozmeroch, ktore su tazko predstavitelne.

Oblak - ako pise Forsaken. Potom ako sa AI osamostatni tak uz sa bude preprogramovavat sama. Takze ziadne "ak clovek dovoli" ale "ak sa AI rozhodne". Jedine ak by proti nej stala ina AI ktora by sa rozhodla ludstvo zachranit. V kazdom pripade to bude celkom sranda.

Ako prve stadium by som ale v ramci bezpecnosti nechal ASI kolonizovat mars. Na inej planete nemaju dovod rozhodnut sa znicit zivot na zemi... snad...

javatar napísal:Oblak - ako pise Forsaken. Potom ako sa AI osamostatni tak uz sa bude preprogramovavat sama. Takze ziadne "ak clovek dovoli" ale "ak sa AI rozhodne". Jedine ak by proti nej stala ina AI ktora by sa rozhodla ludstvo zachranit. V kazdom pripade to bude celkom sranda.

Ako prve stadium by som ale v ramci bezpecnosti nechal ASI kolonizovat mars. Na inej planete nemaju dovod rozhodnut sa znicit zivot na zemi... snad...

No iste.. Zistia, ze Mars im bude aj tak malo, tak potom pridu sem na Zem..

Ja si myslim, ze to bude dost bodobne zo zaciatku, ako vo filme Her, tak je to dobre spravene...

javatar: Podľa mňa také niečo nenastane, ak áno, tak inak. Moje vysvetlenie je takéto:

Viem že za slovom inteligencia sa myslí aj niečo ako schopnosť riešiť úlohy / problémy atď.., ale to je len jedna z schopností inteligencie. Ja mám pocit že za AI sa bere snáď všetko čo je automatizované. A to je chyba. Ak je niečo automatizované do takej miery, že sa to bude vyvíjať samo, stále to je len stroj bez nejakej poriadnej inteligencie. Tým pádom je to ako vytvorenie bomby ktorá môže vybuchnúť kedykoľvek. Prenesene povedané, môže sa stať, že "AI" zničí ľudstvo.

Podľa mňa je AI niečo, čo sa nielen vie vyvíjať, ale vie aj uvedomiť, byť vedomí sám seba (čo v skutočnosti sa inteligenciou myslí, aspoň podľa mňa), vie čo je správne a atď, to sa všetko podľa mňa dá naprogramovať. A s tým uvedomením sme podľa mňa ďaleko, ak nie, a programátor vie čo je skutočne dobré, žiadna AI nás nezničí.

toto je velmi podobne ako ked sa rozprava o tom ci nas mimozemstania prijdu znicit alebo nie.

vsetky tieto teorie su zalozene na tom ze AI alebo mimozemstania budu rozmyslat podobne ako ludia. preco by to tak malo byt? ked my ako ludia si ani nedokazeme predstavit ze niekto rozmysla inak ako my, pretoze ziadne ine rozmyslanie nepozname.
preto vo vsetkych sci-fi filmoch na mimozemstania prijdu znicit alebo umela inteligencia nas bude chciet ovladnut. ale v skutocnosti nemame ani len tusenia co sa stane, pretoze nemame ani len tusenia ako bude ta ina civilizacia rozmyslat.
co ak existuje planeta kde sa nikdy nevyvinuli masozravce, vsetci su bylinozravci a teda nikdy nemali potrebu zabit ineho tvora. preco by nas mala chciet taka civilizacia znicit?

rovnako je to s AI, preco by nas mala AI chciet znicit alebo ovladnut?

presne pre to co sme videli v evolucii. nikto nevravi ze nas AI vystriela, ze tu zhodi bombu. Pozeras sa na to velmi z maleho uhla. To znicenie nemusi doslova znamenat znicenie.

evolucia ukazala ze pokial nejdes dopredu, neprezijes.

Ludia zacali drancovat lesy (prostredie zvierat), viem si predstavit ze AI bude drancovat nieco co my ako ludia povazujeme za zivotne nevyhnutne, mozes zacat od surovin.

Otazka ostava ta, ze pokial AI dokaze sama seba zdokonalit, co sa stane ked cas na zdokonalovanie sa skrati, a exponencionalne "vystreli" na milionnasobok, ma vobec inteligencia limit?

aacid napísal:ale predsa umela inteligencia nie je vysledok evolucie.

to je asi polemika, evoluciou clovek ziskal inteligenciu, ktora nakoniec moze znamenat vytvorenie AI ktora tu to preberie, cize koniec evolucie cloveka, prichadza novy druh.

ale predsa umela inteligencia nie je vysledok evolucie.

javatar napísal:Oblak - ako pise Forsaken. Potom ako sa AI osamostatni tak uz sa bude preprogramovavat sama. Takze ziadne "ak clovek dovoli" ale "ak sa AI rozhodne". Jedine ak by proti nej stala ina AI ktora by sa rozhodla ludstvo zachranit. V kazdom pripade to bude celkom sranda.

Ako prve stadium by som ale v ramci bezpecnosti nechal ASI kolonizovat mars. Na inej planete nemaju dovod rozhodnut sa znicit zivot na zemi... snad...

Viem, že je to dlhé ale prečítajte si oba party 1 aj 2 "Long story".

1. Ak niečo dosiahne stupeň ASI, pravdepodobne vyhodnotí, že pre jej zachovanie bude najlepšie ako bude jedinou ASI. To znamená, že prvá AI, ktorú sa nám podarí stvoriť a dosiahne ASI, zabezpečí aby prvou a jedinou aj ostala.
2. Ak niečo dosiahne stupeň ASI, nepohybujeme sa v rovine, čo jej dovolíme, ale čo nám dovolí ona.

Oblak napísal:javatar: Podľa mňa také niečo nenastane, ak áno, tak inak. Moje vysvetlenie je takéto:

Viem že za slovom inteligencia sa myslí aj niečo ako schopnosť riešiť úlohy / problémy atď.., ale to je len jedna z schopností inteligencie. Ja mám pocit že za AI sa bere snáď všetko čo je automatizované. A to je chyba. Ak je niečo automatizované do takej miery, že sa to bude vyvíjať samo, stále to je len stroj bez nejakej poriadnej inteligencie. Tým pádom je to ako vytvorenie bomby ktorá môže vybuchnúť kedykoľvek. Prenesene povedané, môže sa stať, že "AI" zničí ľudstvo.

Podľa mňa je AI niečo, čo sa nielen vie vyvíjať, ale vie aj uvedomiť, byť vedomí sám seba (čo v skutočnosti sa inteligenciou myslí, aspoň podľa mňa), vie čo je správne a atď, to sa všetko podľa mňa dá naprogramovať. A s tým uvedomením sme podľa mňa ďaleko, ak nie, a programátor vie čo je skutočne dobré, žiadna AI nás nezničí.

Pozor. Vedomie, emócie a morálka sú nezávislé kvality - nemajú s inteligenciou nič spoločné. Práve to je jedna z veľkých chýb, že ľudia majú tendenciu tieto kvality pripisovať aj AI. Ale nie je dôvod. ASI vôbec nemusí nadobudnúť vedomie samej seba, aby efektívne riešila úlohy a učila sa.

aacid napísal:toto je velmi podobne ako ked sa rozprava o tom ci nas mimozemstania prijdu znicit alebo nie.

vsetky tieto teorie su zalozene na tom ze AI alebo mimozemstania budu rozmyslat podobne ako ludia. preco by to tak malo byt? ked my ako ludia si ani nedokazeme predstavit ze niekto rozmysla inak ako my, pretoze ziadne ine rozmyslanie nepozname.
preto vo vsetkych sci-fi filmoch na mimozemstania prijdu znicit alebo umela inteligencia nas bude chciet ovladnut. ale v skutocnosti nemame ani len tusenia co sa stane, pretoze nemame ani len tusenia ako bude ta ina civilizacia rozmyslat.
co ak existuje planeta kde sa nikdy nevyvinuli masozravce, vsetci su bylinozravci a teda nikdy nemali potrebu zabit ineho tvora. preco by nas mala chciet taka civilizacia znicit?

rovnako je to s AI, preco by nas mala AI chciet znicit alebo ovladnut?

Pretože budeme pre ňu irelevantný. Najpesimistickejšie odhady hovoria o prechode od momentu dosiahnutia AGI (ľudský level inteligencie) k ASI (nadľudský level) v priebhu maximálne dní. V priebehu pár týžďnov môže ASI dosiahnuť level, ktorý si nedokážeme predstaviť.
Veľa príkladov hovorí o mravcoch. Ani ty nezabíjaš mravce z číreho potešenia, ale keď si kúpiš pozemok a postavíš tam dom, tak tiež s nimi nediskutuješ o možnostiach presídliť mravenisko. Ani sa nad tym nepozastavíš.

A to je ten problém. AI nemusí byť priateľská/nepriateľská. Problém je aj irrelevantnosť voči ľudstvu.

A v neposlednom rade je problémom aj priateľskosť ASI.......

V priebehu pár týžďnov môže ASI dosiahnuť level, ktorý si nedokážeme predstaviť.

takze si to ani nedokazeme predstavit, ale predsavujeme si to tak ze bud nas znici, alebo nas bude ignorovat a znici nas ked to bude pre nu potrebne...

ako to vieme, ked si nevieme predstavit na akej urovni bude a teda ako sa bude spravat?

aacid napísal: takze si to ani nedokazeme predstavit, ale predsavujeme si to tak ze bud nas znici, alebo nas bude ignorovat a znici nas ked to bude pre nu potrebne...

ako to vieme, ked si nevieme predstavit na akej urovni bude a teda ako sa bude spravat?

Vsak sa o tom tu bavime, ze nevieme... Precitaj si vsetko... Moze nas znicit, moze nas ignorovat, moze nam pomoct... Nehame sa prekvapit..

No odhadujeme to na základe nejakých analógií z prírody, ako sa voči sebe vymedzujú druhy s veľkým/malým rozdielom v inteligencii.

V mnou postovaných článkoch je napríklad aj prípad, že nemôžeme si byť istý, ak ASI bude aj nápomocná.
Definuješ ju nejak vágne--"zabezpečiť ľudské šťastie" (čo je presné pre nás, môže byť veľmi vágne pre rádovo vyššiu inteligenciu) - a ASI vyhodnotí, že najlepšie bude stimulovať centrum mozgu zodpovedného za šťastie a inak nás udržiavať vo vegetatívnom stave. Šťastná zelenina Proste ide o to, že nemáme skúsenosť s ničím inteligentnejším od nás a keď ju získame, môže to byť veľmi rýchla posledná skúsenosť.
ASI bude zrejme posledný objav ľudstva.

begbeee napísal:Viem, že je to dlhé ale prečítajte si oba party 1 aj 2 "Long story".

1. Ak niečo dosiahne stupeň ASI, pravdepodobne vyhodnotí, že pre jej zachovanie bude najlepšie ako bude jedinou ASI. To znamená, že prvá AI, ktorú sa nám podarí stvoriť a dosiahne ASI, zabezpečí aby prvou a jedinou aj ostala.
2. Ak niečo dosiahne stupeň ASI, nepohybujeme sa v rovine, čo jej dovolíme, ale čo nám dovolí ona.

Cital som obe casti ale kedysi davno.

K bodu 1.: Toto skus podlozit. Podla mna by prave ASI bola aktivna v tom riesit svoje nedokonalosti cez zostrojenie svojej dokonalejsej verzie. To co pises ty by nastalo ak by hlavnym cielom AI bolo ziskat moc a to si nemyslim, ze sa stane.

K bodu 2.: Ano ale to sa nestane hned. Ludia podvolia svoj zivot ASI kedze to bude pre nich pohodlnejsie.

Vyhladenie ludstva nebude cielom ASI, skor su tu obavy, ze budeme vyhladeny pretoze budeme predstavovat pre ASI prekazku/obmedzenie. Nepojde o moc ale efektivitu.

1. postačí ak by bolo jej cieľom sebazachovanie, nie moc. prípadne ak vyhodnotí, že iná AI by bola potencionálnou prekážkou jej cieľa.
2. áno, určite sa podvolíme, či už dobrovoľne alebo nie. A ťažko povedať o akú pohodlnosť pôjde.

begbeee napísal:Pozor. Vedomie, emócie a morálka sú nezávislé kvality - nemajú s inteligenciou nič spoločné. Práve to je jedna z veľkých chýb, že ľudia majú tendenciu tieto kvality pripisovať aj AI. Ale nie je dôvod. ASI vôbec nemusí nadobudnúť vedomie samej seba, aby efektívne riešila úlohy a učila sa.

V tom článku ktorý si dal, má už druhý stupeň inteligencie priblížiť k ľudskej inteligencii (a ak chápeš inteligenciu tak ako si to napísal, tak dodám aj vedomiu). A ASI dokonca má prevyšovať aj sociálnymi schopnosťami. Potom niekde sa tam píše, že ešte nie sme schopný urobiť ani inteligenciu ktorá chápe významu písanému textu. Práve pre toto (chápanie významu) by sa mal význam AI spájať s tými ďalšími atribútmi (vedomie, morálka a emócie). Pretože pochopenie je z jednou vlastností vedomia. Bez vedomia to bude len "obyčajná" analýza a vyhodnocovanie. Ako budeš chcieť od stroja aby pochopil vtipu, keď nebude mať emócie? Či bude tam mať definované, že tieto slovné spojenia majú význam vtipu a keď si to stroj prečíta dostane povel, nech sa zasmeje? To je stále ANI. Nehovoriac o uvedomení si nebezpečenstva alebo či je to pre daný stroj dobré alebo nie, jednoducho podľa mňa tie veci z inteligencie nemôžeš odstrániť.

Ináč začal som to čítať, ale len som to celé preletel. S dosť vecí sa tam nestotožňujem. Možno tomu niekedy dám čas a prečítam si to celé.

Oblak - a co psychopati alebo con-artisti? Hlavne con-artisti maju socialne schopnosti na vysokej urovni a moralny velmi nie su. (cize prekonaie cloveka v akomkolvek smere nie je zarukou moralky)

cinges napísal:Ono je to dost nepredvidatelne..Je to bud, alebo... Pretoze nie je v nasej inteligencii zistit, ako sa bude chovat umela inteligencia... Bud nas znici, alebo nam pomoze... Uz teraz bola dosiahnuta singularita, kedy sme nevedeli, preco pocitac spravil to co spravil, ale az na konci sa zistilo, ze to bolo spravne... takze staci len pockat, ja dufam, ze to bude len a len lepsie.. Rychlost vyvoja sa bude zvysovat exponencialne.. AI zacala pomahat pri vedeckych pokusoch, kde ich extremne urychluje, kde by spravene vedecke postupy cloveka v zivote nenapadli... Za 50 rokov to uz bude riaden hardcore, snad sa toho z nas niekto dozije.. a nepozabijame sa tu navzajom...

Článok by sa nenašiel?