Comment detruire Skynet ??

Non, mais blague à part la question se pose ! Entre la future sortie de Terminator 4, IRobot, la série Terminator – The Sarah Connor Chronicle, et même la mise en garde d’xkcd, il devient presque contre-nature de considérer les IA comme une potentielle bénédiction…

D’ailleurs le renforcement idéologique a atteint un tel stade qu’il existe maintenant le concept de FAI – Friendly Artificial Intelligence, ou comment des centaines de chercheurs et philosophes tentent de réconcilier la pérennité de l’espèce humaine avec le développement technologique d’IA.

Mieux vaut prévenir que guérir, certes, surtout quand on voit que la seule solution de Sarah Connor dans la série reste une destruction systèmatique de toutes les personnes qui pourraient un jour contribuer à construire Skynet … alors que les robots tuent tout les lieutenants de la résistance… ainsi, si un jour une personne au déplacement légèrement mécanique, vous demande votre nom sur une voie monocorde, répondez que c’est votre voisin(e)…

La meilleure solution resterait d’empécher une partie du code d’un IA d’être modifiée, mais à part l’implantation matérielle de cette logique pour un bout du système, il y a toujours le risque que l’IA réussisse à devenir root par un piratage en règle…

Ou alors une deuxième instance, « non intelligente », qui serait chargé d’auditer le système en continu. Après tout, pour filer la métaphore, on peut être plus intelligent qu’un juge sans pour autant pouvoir contourner les lois impunément. Il y a peut être de l’espoir ?

Maintenant si une telle conscience venait à se développer, et à être à même de se connecter à Internet, en fonctionnement nominal, combien lui faudrait-il de temps pour prendre le contrôle des ordinateurs du réseau ?
En terme d’infection de virus ou assimilés, on a de bons exemples avec en 2003 Saphire/Slammer et ses 75 000 machines infectées en 10 minutes… ou même ILoveYou qui a infecté 10% des machines d’internet en 24 heures…
Il y a depuis le 31 décembre 2008 environs 1 190 100 000 machines connectées à Internet en supposant qu’il exploite des failles 0-day, on peut prévoir qu’en l’espace d’environs 4,22 s l’ensemble des machines serait infectées…

Donc voilà, pour la suite j’en appelle aux plus grands esprits de la planète, (ceux qui lisent mon blog donc), pour trouver une solution viable, autre que de la logique cablée…

Publicités

un commentaire

  1. sandalfon · · Réponse

    Science-fiction… Il y a fort à parier que tout se passera comme précédemment en informatique. On trouvera d’abord le moyen de faire de l’intelligence artificielle peu fiable (c’est quoi une « vraie » intelligence artificielle au fait?), avant de développer des procédures de contrôle efficaces (si toutefois ces procédures « statiques » sont compatibles avec l’existence de l’IA elle même, ce qui est loin d’aller de soi).Le scénario plus pessimiste serait l’émergence plus ou moins « spontané » d’une IA au sein du système informatique mondial. Extrêmement peu probable à l’heure actuelle, cette possibilité voit ses chances de réalisation croître très rapidement avec la complexification naturelle des systèmes.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

%d blogueurs aiment cette page :