Oldala 1 of 10 123 ... UtolsóUtolsó
Eredmény 1 to 10 of 96

Topic: Gépek lázadása?

  1. #1
    Senior Member varég's Avatar
    Csatlakozás dátuma
    Jul 2013
    Lakhely
    Fejér vármegye
    Hozzászólások
    355
    Thumbs Up/Down
    Received: 0/0
    Given: 0/0

    0 Not allowed! Not allowed!

    Gépek lázadása?

    Egyre több hír terjed az úgynevezett mesterséges intelligencia(AI) térhódításáról, ami már sajnos eléggé közel van.
    Több újítás van a készülékekben, ami már riasztó lehet sokunk számára(pl. a tmc, hang és kép alapú keresés, döntésképes szoftverek, vírusok, szokásokat elemző programok -ezekről írnak eddig cikkeket, a katonai fejlesztésekről még nem sokat. stb.)

    Amire célzok ezzel a gondolatsorommal, az az, hogy szerintetek a technikától kell-e tartanunk, hogy "öntudatra ébred", és ezzel kárt okozhat az emberiségnek?

    A címadó gépek lázadását magam részéről nem Terminátor filmek képében vélem kibontakozni, hanem inkább a Kaptár első részében látott(Vörös királynő?) módhoz hasonlóan:
    A "lázadó szoftver" nem készít robotokat, hanem a meglévő, és irányítható egységeket(erre példa lehet a stuxnetnek az erőművek bizonyos részei ellen végrehajtott szabotázs akciója) programozza át, pl. közlekedési lámpákat összezavar, banki rendszert omlaszt össze, közmű hálózatot tönkre tesz túlvezérlésekkel, repülőgépeket bénít le, stb. ,ezzel okozva katasztrófa helyzetet.
    Ezt a veszélyt lehet hogy szándékosan programozta be valaki, viszont az is lehetséges, hogy egy programhiba folyamán a rendszer nem összeomlik, hanem valami külső adatot rosszul értelmez, és erre reagál ilyen módon.

    Szóval, egy ilyen veszélynek lehet valós jövőképe?
    Kellene tartani ettől?
    Akinek elég bátorsága és türelme van ahhoz, hogy egész életében a sötétségbe nézzen, elsőként fogja meglátni benne a fény felvillanását.

  2. #2
    Administrator TMIB's Avatar
    Csatlakozás dátuma
    Mar 2013
    Lakhely
    USA
    Hozzászólások
    18,735
    Blog Entries
    4
    Thumbs Up/Down
    Received: 34/0
    Given: 56/0

    0 Not allowed! Not allowed!
    A gép csak azt hajtja végre, amire programozzák. Programhiba lehet, de attól egy gép még nem fog gondolkozni. Van a másik gond, hogy ami program-vezérelt és távolról elérhető, az feltörhető, rossz szándékkal is.

  3. #3
    Senior Member
    Csatlakozás dátuma
    Jul 2014
    Hozzászólások
    175
    Thumbs Up/Down
    Received: 0/0
    Given: 0/0

    0 Not allowed! Not allowed!
    Minden csak idő kérdése.

  4. #4
    Senior Member varég's Avatar
    Csatlakozás dátuma
    Jul 2013
    Lakhely
    Fejér vármegye
    Hozzászólások
    355
    Thumbs Up/Down
    Received: 0/0
    Given: 0/0

    0 Not allowed! Not allowed!
    Egy írásban volt ez a megjegyzés:

    "a mesterséges intelligencia magas szintje, nem úgy fog létrejönni, hogy beleprogramozzák egy ember döntéseinek szimulációját, hanem öntanulót hoznak létre, ami gyorsan felfejlődik a csirke képességétől kezdve egy szuperintelligenciává. Most képzeld el azt, hogy a te személyiséged, az érzelmeid párosulnak egy olyan számítási kapacitással, hogy három másodperc alatt kiszámolsz egy atomerőművet az elsőtől az utolsó csavarig."

    Tételezzük fel, létezne ez az MI.

    Elemzi "X" személy hozzászólásait, valamilyen algoritmus, vagy keresőszavak alapján.
    X úr keres a neten fegyverboltokat, fegyver leírásokat.(ez alapján prioritásba kerül az MI-ben)
    X úr vásárol egy vadászboltban(bármit), és ne adj isten bankkártyával fizet, amit az MI összepárosít a vadászbolttal(vagy akár helymeghatározást alkalmazva), ami alapján kilogikázza, hogy itt bezony fegyveres bűntény készülhet, emiatt riasztja a hatóságokat, és a mobil adatok alapján követhető az illető.

    Ez elvileg működhet már ma is!

    Innentől kezdve mi lenne az akadálya, hogy amennyiben lehetőség adódik , az MI ne avatkozzon közbe, akár megfigyeléssel, forgalom lassítással(rendőrlámpa áthangolás), ne adj isten fegyveres drón bevetésével?(amiket leírtam, ma már létező dolgok)

    Innentől kezdve máris közelebb vagyunk a téma címéhez...
    Akinek elég bátorsága és türelme van ahhoz, hogy egész életében a sötétségbe nézzen, elsőként fogja meglátni benne a fény felvillanását.

  5. #5
    Administrator TMIB's Avatar
    Csatlakozás dátuma
    Mar 2013
    Lakhely
    USA
    Hozzászólások
    18,735
    Blog Entries
    4
    Thumbs Up/Down
    Received: 34/0
    Given: 56/0

    0 Not allowed! Not allowed!
    Teheti, de az nem öntudat, az csak az amit az emberek utasításba adnak.

    Amit felvázolsz az működhet, meg részben működik is, de csak emberi felügyelet alatt.

  6. #6
    D - törölt tag
    Guest

    0 Not allowed! Not allowed!
    Az én mosógépem már fellázadt,a rohadék!
    De viccet félretéve,mi az Öntudat?Mikor nevezzük úgy ,hogy öntudatra ébred?
    Talán akkor,ha tudatosul benne születése vagy programja alapján,hogy létezem!Programoznak bele egy önvédelmi mechanizmust ami már létező technika primitívebb gépek esetén is.
    Például sok gépet(mondjuk autót)ha felforr,elfolyik úgy programoznak,hogy álljon le védve önmagát.
    A programozás bonyolultsága csak program kérdése!
    De nézzük az embereket.Rajtunk is programokat futtatnak,születéstől kondicionálnak!Ma odáig ment már a projekt,hogy az emberek a saját érdekük,létük,jövőjük ellenére is teszik amit a program diktál.
    Ha egy ilyen bonyolult gépet,mint az ember ilyen könnyen lehet irányítani,egy egyszerű gépnek sem kell sok.
    Az érdekesség akkor kezdődik,ha a már meglévő technika(önvezérlő,alkalmazkodó robotok,pl bolygó kutató vagy harci robot) előtérbe helyezi a saját létét a parancsnál.Lehet szoftver hiba,szabotázs,vírus vagy ki sem merem mondani önfejlesztő program ami döntéseket hoz.

  7. #7
    Senior Member BragBOL's Avatar
    Csatlakozás dátuma
    Oct 2013
    Hozzászólások
    575
    Thumbs Up/Down
    Received: 0/0
    Given: 0/0

    0 Not allowed! Not allowed!
    Ekkora hülyeséget.. mégis állandóan ezt hallom...

    Ennyire azért nem lehet Istent játszani!

    Egy HA függvény, soha az életben, nem fog öntudatra ébredni!

    Egyetlen dolog ami talán működhet, az a szellem a gépben.
    Megfelelő finomságú érzékelőkkel, szerintem egy testetlen entitás képes lehet irányítani egy gépet.
    És ezzel be is lehetne csapni az embert!
    Semmit a szemnek!
    Mindent a természetnek!

  8. #8
    Senior Member varég's Avatar
    Csatlakozás dátuma
    Jul 2013
    Lakhely
    Fejér vármegye
    Hozzászólások
    355
    Thumbs Up/Down
    Received: 0/0
    Given: 0/0

    0 Not allowed! Not allowed!
    Idézet Eredeti hozzászóló BragBOL Hozzászólás megtekintése
    ...
    Egy HA függvény, soha az életben, nem fog öntudatra ébredni!

    ...
    Mi számít egy áramkör esetén öntudatnak?

    Már rendszeresítve vannak olyan önvédelmi telepített eszközök(SRAD), amelyek külső beavatkozás nélkül el tudják dönteni, hogy a közelítő jármű támadó avagy békés célú lehet(ellenség-barát felismerő).
    Amennyiben úgy ítéli meg, akkor megkezdi a megelőző csapást, az említett esetben pl. gépágyúval, vagy rakéta elhárító rendszerrel.
    Innen kis lépés, vagy szoftveres hiba(szándékos??), hogy a rendszer minden felé közelítő dologra(jármű, ember, egér, stb) tüzet nyit a saját védelme érdekében.

    Ezeket csak úgy lehetne kiküszöbölni, ha a robotika alaptörvényeit beleégetnék felülírhatatlanul a rendszerbe
    De akkor már nem fog működni a dolog...
    Az alaptörvények:

    1 A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
    2 A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
    3 A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

    Viszont van egy nulladik törvény is:
    0. A robotnak nem szabad kárt okoznia az emberiségben, vagy tétlenül tűrnie, hogy az emberiség bármilyen kárt szenvedjen.

    Viszont, ha ez is belekerül a rendszerbe, akkor már így alakulhat a döntési procedúra:
    „A robotnak nem szabad kárt okoznia emberi lényben, kivéve, ha valahogy belátja, hogy ez a kár végül az emberiség javára válik.”
    Akinek elég bátorsága és türelme van ahhoz, hogy egész életében a sötétségbe nézzen, elsőként fogja meglátni benne a fény felvillanását.

  9. #9
    Senior Member mmilan21's Avatar
    Csatlakozás dátuma
    Feb 2014
    Lakhely
    Bács-Kiskun megye
    Hozzászólások
    1,494
    Blog Entries
    4
    Thumbs Up/Down
    Received: 20/0
    Given: 22/0

    0 Not allowed! Not allowed!
    Léteznek intelligens kamerák, éjjellátóval, hőkamerával, arcfelismerővel és távolságmérővel.
    Léteznek önvezérlő robotok, főleg Japánban készülnek ezek.
    Léteznek több ezer TeraFlop teljesítményű szuperszámítógép fürtök.
    Létezik hangfelismerő és fordító program, beszédszintetizátor(virtuális hang).
    Létezik egy centralizált rendszer az internet ami rá van kötve a világ számítógépeinek kb. 80%-ra, az infrastruktúra kb. 60%-ra.
    Létezik már frekventált öntanuló mesterséges intelligencia és elég sokat bele kell nyúlni, hogy ne ragadjanak rá a rossz beszólások.
    Az internetre kötött eszközök operációs rendszerei kivétel nélkül tartalmaznak biztonsági hibákat.
    Az interneten fellelhető az ezek feltöréséhez szüksége információk nagy része.
    Egy MI elég gyorsan megtanulhatja az interneten is fellelhető programozási nyelveket, akár fórumok segítségével is.
    Fellelhetőek továbbá vírusminták, rootkit(rejtőzködés) funkciók, férgek, bootnetek és a szoftverek sérülékenységeit áruló (nem csak) orosz fórumok is.

    Ezeket összegyúrva már egy elég nagy játszóteret kaphat a tényleg intelligens MI.
    Az interneten, majd később az egyéb csatornákon keresztül is támadhatna.
    Igazából csak a tökéletes önfejlesztő kód hiányzik hozzá. Lásd példaként az új "Chappie" című filmet.
    Ha egy olyan kód létezne és elszabadulna, az való veszélyt is jelenthetne. Persze az attól függ, hogy mit tanulna az interneten.
    Persze ez csak egy fikció.

    Létezik pár MI, főleg a gigacégek szerverparkjain, ahonnan is szabad kijárása van az internetre és fejlesztheti tudását.
    Ezek jelentik az igazi veszélyt egyenlőre.
    A Skynetet létre lehet hozni, ezt tudják is a tudósok.
    Ezért beépítenek direktívákat a kódba, hogy mit szabad az MI-nek tennie és mit nem.
    Nehogy már lebénítsa a szeretett, drágalátos internetet az MI egy-egy rossz húzása.

  10. #10
    Senior Member mmilan21's Avatar
    Csatlakozás dátuma
    Feb 2014
    Lakhely
    Bács-Kiskun megye
    Hozzászólások
    1,494
    Blog Entries
    4
    Thumbs Up/Down
    Received: 20/0
    Given: 22/0

    0 Not allowed! Not allowed!
    Néhány cikk a témában:
    (nem csak az idők jelein vannak ilyen cikkek)

    http://idokjelei.hu/2014/10/elon-mus...elligenciaval/

    Bár továbbra is azt gondolja, hogy a gépek egészen a Marsig repíthetnek bennünket és az autók átveszik tőlünk a kormányt, Elon Musk továbbra is aggódik a mesterséges intelligenciában rejlő sötét lehetőségek miatt.
    Elon Musk, a Tesla elektromos autók, illetve a polgári űrrepülés úttörőjeként ismert SpaceX alapítója az MIT repüléstudományi és asztronautikai tanszékén rendezett konferencián elhangzott kérdésre válaszolva elmondta, hogy szerinte a mesterséges intelligencia az emberiségre leselkedő legnagyobb veszély és a technológiában rejlő sötét lehetőségek továbbra is komoly aggodalommal töltik el. (videó)
    „A mesterséges intelligenciával a démont idézzük meg. Biztos mindenki hallott már azokról az emberekről, akik jönnek a pentagrammával és a szenteltvízzel, biztosra véve, hogy majd irányítani tudják a démont, de mégse sikerült nekik.”


    http://idokjelei.hu/2014/12/miert-re...a-szakadekbol/

    Amikor a Miraikan múzeum látogatója megérint egy kijelzőt, a közelben ülő hölgy elmosolyodik. Egy másik ikonra kattintva a mosoly haragos tekintetbe fordul.
    A kijelző sarkára pillantva a robothölgy szemébe szerelt kamerán át nézheti a múzeumot, a mikrofonba beszélve pedig a robot szájából hallhatja vissza saját hangját.
    „Egyelőre csak kísérletről van szó,” mondta Yuko Okayama, a múzeum nemzetközi ügyekért felelős igazgatója.
    „A jövőben azonban az élet részévé válhat. Azt akarjuk, hogy a látogatóink el tudják képzelni, milyen lehet együtt élni a robotokkal.”


    http://idokjelei.hu/2014/08/egyetlen...es-robotjanak/

    A Cornell Egyetem kutatói bemutatták a Robo Agyat (Robo Brain), egy „kiterjedt számítógépes rendszert, ami a nyilvánosan rendelkezésre álló webes forrásokból tanul.” Úgy tűnik, igen gyorsan…
    A robotagyat sok millió robot használná szerte a világon és a tervek szerint minden fontos információt tartalmaz majd, a képektől egészen az olyan gyakorlati ismeretekig, hogy hogyan kell kicserélni egy villásdugót.
    A szerverről futó, tehát minden robot számára elérhető rendszer jelenleg 1 milliárd kép, 120.000 YouTube videó és 100 millió csináld magad dokumentum és használati utasítás letöltését és feldolgozását végzi.


    http://idokjelei.hu/2014/08/az-ember...uj-szuperchip/

    Az IBM olyan számítógép chipet fejlesztett ki, ami a cég elmondása szerint az emberi agyhoz hasonlóan működik és óriási előrelépést jelent a mesterséges intelligencia megvalósításának irányába. A TrueNorth nevű chipet a világ legelső idegszinaptikus számítógép chipjeként harangozták be, mivel magától rá tudd jönni bizonyos dolgokra.
    Emellett, a chip egymillió „neuronnal” rendelkezik, lehetővé téve, hogy egy szuperszámítógép teljesítményét egyetlen postai bélyeg méretű lapra sűrítsék.
    A szakértők szerint a fejlesztés felér a 80-as években bemutatott szuperszámítógépek jelentőségével. Horst Simon, a Lawrence Berkeley National Laboratórium helyettes vezetője a New York Times-nak nyilatkozva elmondta, hogy „rendkívül jelentőségteljes lépésről van szó a kicsi méret és az alacsony fogyasztás szempontjából.”


    http://idokjelei.hu/2012/12/az-uj-sz...rtesre-keszul/

    Az Egyesült Államok hadserege egy olyan hírszerzési rendszer kifejlesztését finanszírozza, ami a térfigyelő kamerákkal összekapcsolva megjósolja, amikor valaki egy bűntett elkövetésére készül. A Mind’s Eye (Jelentése: Az elme szeme) névre keresztelt szoftver a térfigyelő kamerák felvételeit algoritmusok segítségével elemzi és megjósolja a célpont közvetkező lépését, majd értesíti a hatóságokat. A technológia hallatán sok embernek a Különvélemény című hollywoodi alkotás jut eszébe, amelyben az embereket a megjósolt, nem pedig az elkövezett bűntettekért ítélik el.

    http://idokjelei.hu/2012/09/mikor-le...n-gondolkozni/

    Június 23-án, kevés hírveréssel, egy számítógépes program nagyon közel jutott ahhoz, hogy átmenjen a Turing teszten, amit Alan Turing matematikus talált ki még 60 évvel ezelőtt, a gépek intelligenciájának mérésére.
    Még véletlenül sem a Terminátor filmekből ismert, önállósult Skynet-hez vagy a 2001 Űrodüsszeia HAL-jához hasonló esetre gondoljunk. Ettől függetlenül a teljesítmény egyértelműen jelzi, hogy a gépek beszédkészsége – ami az ember számára annyira természetes, a gépek számára viszont komoly kihívás – egyre fejlődik.


    http://idokjelei.hu/2012/08/hamarosa...s-muveleteket/

    Az amerikai védelmi minisztérium summás pályázatot írt ki és ítélt oda a Boston Dynanics csapatának, olyan humanoid robotok kifejlesztésére, amelyek felügyelet nélkül is képesek ellátni feladataikat.
    A 10,9 millió dolláros szerződést a DARPA (Fejlett Védelmi Kutatási Projektek Ügynöksége), az amerikai hadsereg fejlesztésekért felelős ügynöksége ítélte oda a cégnek.
    A minisztérium bejelentése szerint a „robot platformok humanoid típusúak lesznek, két lábbal, testtel, két karral és kézzel, érzékelővel ellátott fejjel és beépített számítógéppel rendelkeznek majd.”


    Szóval nem csak az alternatív média aggódik az MI esetleges lázadása miatt.

Posting Permissions

  • Te nem nyithatsz új topicot
  • Te nem szólhatsz hozzá
  • Te nem csatolhatsz fájlokat
  • Te nem szerkesztheted a hozzászólásaid
  •