Archives par mot-clé : reflexion

Cybersécurité, IA

IA et réflexion : l’autonomie à l’épreuve de ChatGPT

Une étude portant sur 1 222 participants montre qu’après une assistance par ChatGPT, certains réussissent moins bien et renoncent davantage lorsque l’outil devient indisponible, interrogeant notre autonomie intellectuelle.

L’intelligence artificielle facilite la résolution d’un exercice sans garantir que son utilisateur saura ensuite le réaliser seul. Des expériences rapportées par l’Université de Californie à Berkeley mettent en évidence ce décalage. Des participants disposant de ChatGPT réussissaient initialement mieux certaines tâches. Après le retrait de l’assistant, leur précision diminuait et les abandons augmentaient. Les exercices concernaient les fractions et la compréhension écrite. Ces observations interrogent la place des réponses automatiques dans l’apprentissage, ainsi que la préservation de l’effort personnel. Elles invitent toutefois à distinguer une baisse immédiate de performance d’une dégradation durable des capacités de réflexion.

Réussir avec une IA ne garantit pas de réussir seul

Le moment décisif survient lorsque l’assistance disparaît. Jusqu’alors, les participants peuvent demander un indice, vérifier leur démarche ou obtenir directement une solution. L’exercice avance, la réponse arrive et le résultat semble confirmer l’efficacité du dispositif. Une fois ChatGPT retiré, chacun doit reprendre le raisonnement à son compte.

Les expériences présentées réunissent 1 222 personnes. Dans un test consacré aux fractions, un groupe travaille sans assistance, tandis qu’un autre bénéficie de l’outil conversationnel. Les utilisateurs accompagnés obtiennent d’abord de meilleurs résultats. Après le douzième problème, l’accès à ChatGPT est interrompu. Leur réussite recule alors rapidement, et ils renoncent plus souvent aux questions suivantes. Le compte rendu institutionnel confirme cette évolution de la précision et de la persévérance.

Cette succession est essentielle pour comprendre le résultat. Le bénéfice initial concerne une performance obtenue avec une aide disponible. La phase suivante mesure la capacité à poursuivre une activité après son retrait. Confondre ces deux situations reviendrait à attribuer automatiquement à l’utilisateur une maîtrise qui dépendait peut-être, en partie, de l’assistant.

Une autre expérience, consacrée à la compréhension écrite, fait apparaître une tendance comparable. Le phénomène rapporté dépasse donc le seul calcul de fractions. Il concerne aussi une activité dans laquelle il faut lire, interpréter et choisir une réponse.

Pour autant, le titre affirmant que toute utilisation, même minimale, entrave le développement de la pensée dépasse ce que ces éléments permettent de conclure. Les observations décrivent des comportements dans des tâches précises, après une modification des conditions de travail. Elles ne suffisent pas à établir une diminution générale de l’intelligence, ni une perte irréversible de compétences. La distinction protège la portée du résultat. Une difficulté à continuer seul après une assistance mérite d’être examinée pour elle-même. Il n’est pas nécessaire de la transformer en verdict sur l’ensemble des usages de l’IA pour en comprendre l’enjeu.

Préserver l’effort qui construit la compréhension

Les auteurs mettent en avant la notion de « lutte productive ». L’expression désigne l’effort nécessaire pour progresser face à une difficulté, comprendre un problème et construire ses propres capacités. Chercher, hésiter et reprendre une démarche constituent alors une partie de l’apprentissage.

Une réponse immédiate peut supprimer cette étape. L’utilisateur dispose du résultat attendu sans avoir nécessairement parcouru le chemin qui permettrait de le retrouver. La tâche est terminée, tandis que l’acquisition de la méthode reste incertaine.

L’explication avancée porte également sur le rapport au temps. À force de recevoir une solution en quelques secondes, une recherche personnelle plus longue pourrait devenir difficile à accepter. Les auteurs envisagent ainsi que l’habitude de l’immédiateté réduise la disposition à persévérer. Cette interprétation doit rester distincte du constat expérimental lui-même.

La différence entre un indice et une réponse complète prend ici toute son importance. Le premier peut laisser à l’apprenant une part du travail intellectuel. La seconde peut lui permettre de passer directement à la suite. Dans les deux cas, l’interface fournit une assistance, avec une place différente accordée au raisonnement personnel.

Les auteurs ne demandent pas de renoncer à l’intelligence artificielle. Ils défendent un usage de mentorat, destiné à accompagner la compréhension plutôt qu’à livrer systématiquement une solution. L’objectif consiste à conserver une activité intellectuelle chez la personne assistée.

Cette interrogation touche particulièrement l’enseignement. Un exercice réussi avec ChatGPT ne renseigne pas, à lui seul, sur ce que l’élève ou l’étudiant saura reproduire en autonomie. Le résultat visible et la compétence acquise doivent être examinés séparément.

La recherche scientifique est également concernée dans le texte fourni. Déléguer l’analyse et la recherche de réponses pose la question du maintien des compétences mobilisées pour découvrir. Il s’agit ici d’une inquiétude exprimée par les auteurs, et non d’un effet directement démontré sur la production scientifique.

Chiffrement, cryptage, Cybersécurité, DDoS, Piratage

Trois nouveaux vecteurs d’attaques DDoS

Akamai met en garde contre trois nouveaux vecteurs d’attaques DDoS par réflexion.

Akamai Technologies, Inc. leader mondial des services de réseau de diffusion de contenu (CDN), publie une nouvelle alerte cybersécurité. Akamai a, en effet, observé ces derniers mois trois nouvelles attaques par déni de service distribué (DDoS) utilisant la réflexion.

Qu’est-ce qu’une attaque DDoS par réflexion ?

Une attaque DDoS par réflexion, ou attaque DrDoS, compte trois types d’acteurs: l’attaquant, sa cible et des serveurs, complices malgré eux. L’attaquant envoie une requête simple à un service d’une victime. Ce pirate falsifie (par usurpation d’adresse) sa requête, qui donne l’impression de provenir de la cible. La victime, en répondant à l’adresse usurpée, envoie du trafic réseau intempestif vers la cible du pirate. Si la réponse de la victime est largement supérieure, en volume, à la requête, le pirate opte pour l’attaque DDoS par réflexion, qui amplifie ses capacités. Il envoie plusieurs centaines ou milliers de requêtes à haut débit à une longue liste de victimes en automatisant le processus avec un outil d’attaque et déclenche, en retour, un flux de trafic indésirable et une interruption par déni de service sur la cible.

« Même si les attaques DDoS par réflexion sont courantes, ces trois vecteurs d’attaques exploitent de manière abusive différents services et, démontrent ainsi que les pirates sondent sans relâche l’Internet pour découvrir de nouvelles ressources dont ils pourront tirer parti », indique à DataSecurityBreach.fr Stuart Scholly, senior vice president et general manager d’Akamai. « C’est comme si aucun service UDP n’était épargné par les auteurs d’attaques DDoS ; il faut donc que les administrateurs de serveurs bloquent les services inutiles ou les protègent des réflexions malveillantes. La quantité de services UDP exploitables pour des attaques DDoS par réflexion sur Internet est stupéfiante. »

Les outils employés pour chacune de ces nouvelles attaques par réflexion sont liés – car tous sont des variantes du même code C. Chaque vecteur d’attaques procède de la même façon : un script envoie une requête via une adresse usurpée à une liste de victimes. Les options de commande en ligne sont identiques.

Attaque DDoS par réflexion via le serveur NetBIOS

L’attaque DDoS par réflexion de type NetBIOS – qui consiste, plus précisément, en une réflexion du protocole NBNS (NetBIOS Name Service) – a été observée sporadiquement par Akamai de mars à juillet 2015. L’objectif principal delde NetBIOS est de permettre à des applications situées sur des ordinateurs distincts de communiquer et d’ouvrir des sessions pour accéder à des ressources partagées et s’identifier les uns les autres sur un réseau local.

Cette attaque génère 2,56 à 3,85 fois plus de trafic de réponse envoyé à la cible que les requêtes initiales adressées par le pirate.. Akamai a observé quatre attaques par réflexion sur le serveur NetBIOS, la plus conséquenteatteignant 15,7 Gbit/s. Bien que les requêtes NetBIOS, légitimes et malveillantes, soient fréquentes, un afflux de réponses a, pour la 1ère fois, été détecté en mars 2015 lors d’une attaque DDoS neutralisée pour un client Akamai.

Attaque DDoS par réflexion via le mécanisme RPC portmap

La première attaque DDoS par réflexion via le mécanisme RPC portmap, observée et neutralisée par Akamai, s’est produite en août 2015 dans le cadre d’une campagne d’attaques DDoS multi-vectorielles. RPC portmap, ce mécanisme indique au client comment appeler une version spécifique du service ONC RPC (Open Network Computing Remote Procedure Call).

Le facteur d’amplification des réponses les plus massives s’est établi à 50,53. Le plus courant était de l’ordre de 9,65. Sur les quatre campagnes d’attaques par réflexion de type RPC neutralisées par Akamai, l’une dépassait 100 Gbit/s, attestant de son extrême puissance. Des requêtes malveillantes visant à déclencher des attaques par réflexion ont été observées par Akamai quasi-quotidiennement à l’encontre de diverses cibles en septembre 2015.

Attaque DDoS par réflexion via Sentinel

La première attaque DDoS par réflexion via Sentinel, observée en juin 2015 à l’université de Stockholm, est associée à une vulnérabilité du serveur de licences SPSS, logiciel d’analyse statistique. Akamai a neutralisé deux campagnes d’attaques DDoS par réflexion de ce type en septembre 2015. Parmi les sources d’attaques figuraient des serveurs performants à forte disponibilité en bande passante, tels que des serveurs universitaires.

Si le facteur d’amplification de cette attaque ressort à 42,94, seulement 745 sources de ce trafic d’attaques sont identifiées. Même avec une bande passante supplémentaire fournie par des serveurs en réseau, une attaque de ce type est limitée par le nombre de réflecteurs disponibles. L’une de ces attaques a culminé à 11,7 Gbit/s.

Neutralisation des attaques DDoS et renforcement des systèmes

Pour ces trois vecteurs d’attaques DDoS, un filtrage en amont peut être éventuellement utilisé pour les neutraliser ; sinon, il faudra faire appel à un prestataire de services spécialisés en mode cloud. L’alerte de cybersécurité propose une règle Snort permettant de détecter les requêtes malveillantes générées par l’outil d’attaque RPC portmap. Des règles similaires peuvent être conçues pour détecter le service Sentinel. « Les administrateurs devraient se demander si ces trois services doivent être accessibles à tous sur Internet », conclut Stuart Scholly. « Probablement non en ce qui concerne NetBIOS. Pour les deux autres, en revanche, il se peut que la réponse soit oui, et le défi consiste alors à les protéger. Les trafics RPC et Sentinel peuvent alors être contrôlés et maîtrisés avec un système de détection des intrusions. »

Cette alerte, qui détaille avec précision ces menaces via NetBIOS name server, le mécanisme RPC portmap et Sentinel, est téléchargeable sur www.stateoftheinternet.com/3-ddos-reflection

BYOD, Chiffrement, Cloud, cryptage, Cyber-attaque, Cybersécurité, Entreprise, Fuite de données, Leak, Mise à jour, Patch, Piratage, Propriété Industrielle

Pourquoi de bonnes résolutions ne suffisent pas à se protéger en 2015 ?

Face aux cyber-menaces, les entreprises doivent s’ouvrir à de nouvelles approches en termes de cyber-sécurité.

Le paysage des cyber-menaces est en évolution permanente. Les attaques ciblées se multiplient tandis que les modes opératoires deviennent de plus en plus complexes et uniques, rendant ces menaces extrêmement difficiles à identifier. Pour ces raisons, la cyber-sécurité est devenue, aujourd’hui, une problématique prioritaire pour la plupart des entreprises.

Dans ce contexte, il existe quelques recommandations qui permettent de limiter les risques de cyber-attaques. Il est par exemple conseillé de vérifier les antécédents des employés, de limiter l’accès des salariés aux données par lesquelles ils sont concernés dans le cadre de leurs fonctions, de s’assurer du cryptage des données confidentielles, etc. Cependant, bien qu’ils méritent d’être pris au sérieux, ces prérequis de base ne sont pas suffisants pour faire face à la réalité des menaces actuelles les plus sophistiquées.

En effet, aujourd’hui, nous ne pouvons plus considérer, uniquement, les menaces externes. Dans un contexte où l’information est de plus en plus difficile à canaliser, notamment à cause de la pluralité des lieux et des supports d’utilisation, la menace interne est plus que jamais présente, et concerne chaque organisation.

D’un point de vue technologique, une société baptisée Darktrace a connu d’importantes mutations au court des dix dernières années. Le modèle traditionnel, que nous pourrions qualifier d’ancestral, consistait à construire un mur autour du réseau de l’entreprise afin de se protéger d’éventuelles menaces provenant de l’extérieur. Cette approche nécessitait une connaissance parfaite de son réseau ainsi que la capacité à délimiter ses frontières. Aussi, elle impliquait une confiance totale en tous les collaborateurs internes à l’entreprise, et une méfiance constante envers les acteurs externes. Cette vision un peu simpliste apparaît clairement obsolète dans la société contemporaine. Ainsi, pour aider les entreprises à anticiper les cyber-attaques, Darktrace a développé une nouvelle approche. Celle-ci prend comme point d’ancrage l’acceptation de la présence de menaces, sur tous les systèmes d’information.

En effet, étant donné que le risque zéro n’existe pas, et que la réalité des entreprises nous démontre, chaque jour, qu’il est de plus en plus difficile de délimiter les frontières du réseau, il n’est pas pertinent de faire la distinction entre l’interne et l’externe. C’est pourquoi, Darktrace a développé une nouvelle approche appelée « Système Immunitaire pour Entreprises ». Basée sur des avancées académiques fondamentales, elle a pour vocation de se prémunir contre les menaces les plus sophistiquées, qu’elles émanent de l’interne ou de l’externe.

La technologie repose sur l’analyse et l’apprentissage automatisé de l’environnement de l’organisation. Concrètement, il s’agit d’observer les comportements de chaque utilisateur, de chaque machine et de la structure dans sa globalité, afin d’identifier un modèle de comportement normal. La connaissance de ce modèle de référence permet, par déduction, d’identifier les activités « anormales », pouvant révéler d’éventuelles menaces.

Cette solution repose, d’une part sur une technologie auto-apprenante et, d’autre part, sur des mathématiques probabilistes bayésiennes développées à l’université de Cambridge. La combinaison de ces intelligences permet une évolution constante du modèle « de référence », en fonction de l’activité de chaque utilisateur, de chaque machine dans le réseau, et des mutations au sein de l’organisation.

Cette vision de l’activité réseau de l’entreprise, en temps réel, ne permet pas d’éliminer les cyber-menaces, elle a pour vocation de les identifier, afin d’être à même de prendre des mesures correctives avant qu’il ne soit trop tard. Le risque zéro n’existe pas, la menace est là, partout au sein de notre réseau, et elle est impossible à éradiquer. La vraie force est la capacité à l’identifier afin d’anticiper d’éventuelles attaques.