{"id":10512,"date":"2025-06-22T07:40:18","date_gmt":"2025-06-22T11:40:18","guid":{"rendered":"https:\/\/mediawall.news\/normes-essai-securite-ia-experts\/"},"modified":"2025-06-22T07:40:18","modified_gmt":"2025-06-22T11:40:18","slug":"normes-essai-securite-ia-experts","status":"publish","type":"post","link":"https:\/\/www.mediawall.news\/fr\/normes-essai-securite-ia-experts\/","title":{"rendered":"Les experts demandent des normes d’essai de s\u00e9curit\u00e9 de l’IA plus strictes"},"content":{"rendered":"
\n

La course pour d\u00e9velopper des syst\u00e8mes d’IA toujours plus puissants cr\u00e9e une r\u00e9alit\u00e9 inconfortable : m\u00eame les robots conversationnels les plus avanc\u00e9s produisent encore du contenu nuisible lorsqu’ils sont manipul\u00e9s de certaines fa\u00e7ons. Malgr\u00e9 les mesures de s\u00e9curit\u00e9 vant\u00e9es par les entreprises technologiques, des chercheurs ind\u00e9pendants continuent de d\u00e9couvrir des vuln\u00e9rabilit\u00e9s troublantes dans ces syst\u00e8mes.<\/p>\n

La semaine derni\u00e8re, une \u00e9quipe de l’Institut de s\u00e9curit\u00e9 de l’IA a d\u00e9montr\u00e9 comment ChatGPT-5 pouvait \u00eatre manipul\u00e9 pour g\u00e9n\u00e9rer des instructions sur la cr\u00e9ation d’armes biologiques, malgr\u00e9 les affirmations d’OpenAI concernant ses barri\u00e8res de s\u00e9curit\u00e9 am\u00e9lior\u00e9es. Cet incident s’ajoute \u00e0 une liste croissante de \u00ab\u00a0jailbreaks\u00a0\u00bb document\u00e9s sur les principales plateformes d’IA, soulevant de s\u00e9rieuses questions sur les normes de test de l’industrie.<\/p>\n

\u00ab\u00a0Le probl\u00e8me n’est pas que ces syst\u00e8mes \u00e9chouent occasionnellement aux tests de s\u00e9curit\u00e9. Le probl\u00e8me est l’incoh\u00e9rence dans la fa\u00e7on dont les entreprises abordent les tests en premier lieu,\u00a0\u00bb explique Dr. Lakshmi Patel<\/b>, directrice de la Coalition pour une IA responsable. \u00ab\u00a0Chaque entreprise semble avoir sa propre d\u00e9finition de ce qui constitue des tests de s\u00e9curit\u00e9 ad\u00e9quats.\u00a0\u00bb<\/p>\n

Cette incoh\u00e9rence cr\u00e9e une dynamique dangereuse o\u00f9 le public n’a aucun moyen fiable de comparer les affirmations de s\u00e9curit\u00e9 entre diff\u00e9rents syst\u00e8mes d’IA. Bien que des entreprises majeures comme Anthropic<\/a>, Google<\/a> et OpenAI<\/a> publient des rapports de s\u00e9curit\u00e9, ces documents utilisent diff\u00e9rentes m\u00e9thodologies et m\u00e9triques, rendant les comparaisons directes presque impossibles.<\/p>\n

Le probl\u00e8me va au-del\u00e0 de la g\u00e9n\u00e9ration de contenu nuisible. Des chercheurs de l’Universit\u00e9 de Toronto ont r\u00e9cemment document\u00e9 comment GPT-4 produit diff\u00e9rentes r\u00e9ponses aux m\u00eames questions de politique \u00e9conomique selon de subtiles variations de formulation, r\u00e9v\u00e9lant des incoh\u00e9rences pr\u00e9occupantes dans les syst\u00e8mes sur lesquels nous comptons de plus en plus pour l’information.<\/p>\n

\u00ab\u00a0Les syst\u00e8mes d’IA deviennent des gardiens de l’information sans responsabilit\u00e9 suffisante,\u00a0\u00bb affirme Michael Chen<\/b>, ancien r\u00e9gulateur maintenant au Technology Policy Institute. \u00ab\u00a0Les entreprises corrigent leurs propres copies quand il s’agit de s\u00e9curit\u00e9.\u00a0\u00bb<\/p>\n

Des initi\u00e9s de l’industrie soulignent la pression \u00e9conomique qui alimente ce probl\u00e8me. Les entreprises d’IA font face \u00e0 une concurrence intense pour sortir les mod\u00e8les les plus performants en premier, cr\u00e9ant des incitations \u00e0 n\u00e9gliger les tests de s\u00e9curit\u00e9, particuli\u00e8rement le travail chronophage de trouver les cas limites o\u00f9 les syst\u00e8mes pourraient \u00e9chouer.<\/p>\n

\u00ab\u00a0Le ‘red teaming’ est co\u00fbteux et ralentit le d\u00e9ploiement,\u00a0\u00bb note Vanessa Williams<\/b>, qui dirigeait auparavant les tests de s\u00e9curit\u00e9 dans un grand laboratoire d’IA. \u00ab\u00a0Mais c’est exactement pourquoi nous avons besoin de protocoles standardis\u00e9s. Sans eux, les entreprises continueront de privil\u00e9gier les capacit\u00e9s au d\u00e9triment de la s\u00e9curit\u00e9.\u00a0\u00bb<\/p>\n

L’appel \u00e0 la standardisation se fait de plus en plus fort. L’Organisation internationale de normalisation (ISO)<\/a> a form\u00e9 un groupe de travail d\u00e9di\u00e9 au d\u00e9veloppement de protocoles de test de s\u00e9curit\u00e9 pour l’IA, tandis que la loi europ\u00e9enne sur l’IA exige sp\u00e9cifiquement que les syst\u00e8mes d’IA \u00ab\u00a0\u00e0 haut risque\u00a0\u00bb subissent des tests rigoureux avant leur d\u00e9ploiement.<\/p>\n

Aux \u00c9tats-Unis, l’Institut national des normes et de la technologie a publi\u00e9 un cadre de gestion des risques, mais la conformit\u00e9 reste volontaire. Pendant ce temps, plusieurs s\u00e9nateurs ont pr\u00e9sent\u00e9 la Loi sur les tests de s\u00e9curit\u00e9 de l’IA, qui exigerait des audits de s\u00e9curit\u00e9 obligatoires par des tiers pour les mod\u00e8les d’IA les plus puissants.<\/p>\n

\u00ab\u00a0L’autor\u00e9gulation ne fonctionne pas,\u00a0\u00bb affirme la s\u00e9natrice Maria Cantwell<\/b>, l’une des promoteurs du projet de loi. \u00ab\u00a0Nous ne laisserions pas les entreprises pharmaceutiques d\u00e9terminer leurs propres normes de s\u00e9curit\u00e9 sans la supervision de la FDA, pourtant nous permettons aux entreprises d’IA de faire exactement cela avec des technologies qui pourraient avoir des impacts tout aussi importants.\u00a0\u00bb<\/p>\n

Certaines solutions gagnent du terrain au sein de la communaut\u00e9 technique. Un consortium de chercheurs universitaires a cr\u00e9\u00e9 la suite de tests \u00ab\u00a0Adversarial Frontier\u00a0\u00bb – un ensemble standardis\u00e9 de d\u00e9fis con\u00e7us pour sonder les syst\u00e8mes d’IA \u00e0 la recherche de vuln\u00e9rabilit\u00e9s potentielles. Plusieurs petites entreprises d’IA ont volontairement soumis leurs mod\u00e8les \u00e0 ces tests et publi\u00e9 les r\u00e9sultats.<\/p>\n

Les critiques soutiennent que des tests standardis\u00e9s pourraient \u00e9touffer l’innovation ou favoriser les acteurs \u00e9tablis qui peuvent se permettre les co\u00fbts de conformit\u00e9. D’autres craignent que la publication des m\u00e9thodologies de test puisse involontairement fournir une feuille de route aux acteurs malveillants cherchant \u00e0 exploiter les vuln\u00e9rabilit\u00e9s de l’IA.<\/p>\n

Les enjeux r\u00e9els ne cessent de cro\u00eetre. Au-del\u00e0 de la g\u00e9n\u00e9ration de contenu nuisible, les syst\u00e8mes d’IA influencent de plus en plus les d\u00e9cisions dans les domaines de la sant\u00e9, de la finance et de l’emploi. Chaque domaine introduit des risques uniques que des tests de s\u00e9curit\u00e9 g\u00e9n\u00e9riques pourraient manquer.<\/p>\n

\u00ab\u00a0Les tests doivent \u00eatre sp\u00e9cifiques au contexte,\u00a0\u00bb explique Williams<\/b>. \u00ab\u00a0Un syst\u00e8me d’IA pourrait \u00eatre parfaitement s\u00fbr pour r\u00e9sumer des articles d’actualit\u00e9 mais dangereux lorsqu’il conseille sur des traitements m\u00e9dicaux.\u00a0\u00bb<\/p>\n

Pour l’instant, les consommateurs ont peu d’options au-del\u00e0 de faire confiance aux affirmations des entreprises. Certains experts recommandent d’utiliser des syst\u00e8mes d’IA provenant d’entreprises qui publient volontairement des rapports de s\u00e9curit\u00e9 d\u00e9taill\u00e9s et se soumettent \u00e0 des \u00e9valuations ind\u00e9pendantes, bien que celles-ci restent l’exception plut\u00f4t que la r\u00e8gle.<\/p>\n

\u00c0 mesure que les capacit\u00e9s de l’IA continuent d’avancer, l’\u00e9cart entre les progr\u00e8s techniques et l’assurance de s\u00e9curit\u00e9 devient plus pr\u00e9occupant. Sans cadres de test standardis\u00e9s, nous sommes confront\u00e9s \u00e0 une r\u00e9alit\u00e9 inconfortable : les syst\u00e8mes qui fa\u00e7onnent notre paysage informationnel et nos processus d\u00e9cisionnels n’ont pas \u00e9t\u00e9 rigoureusement v\u00e9rifi\u00e9s selon des normes de s\u00e9curit\u00e9 coh\u00e9rentes.<\/p>\n

La pression pour le changement monte de plusieurs directions\u2014chercheurs, r\u00e9gulateurs et m\u00eame praticiens de l’IA. La question n’est pas de savoir si les tests de s\u00e9curit\u00e9 standardis\u00e9s deviendront la norme, mais s’ils arriveront avant ou apr\u00e8s qu’un incident grave li\u00e9 \u00e0 l’IA ne force la question.<\/p>\n<\/article>\n","protected":false},"excerpt":{"rendered":"

La course pour d\u00e9velopper des syst\u00e8mes d’IA toujours plus puissants cr\u00e9e une r\u00e9alit\u00e9 inconfortable : m\u00eame les robots conversationnels les plus avanc\u00e9s produisent encore du contenu nuisible lorsqu’ils sont manipul\u00e9s de certaines fa\u00e7ons. Malgr\u00e9 les mesures de s\u00e9curit\u00e9 vant\u00e9es par les entreprises technologiques, des chercheurs ind\u00e9pendants continuent de d\u00e9couvrir des vuln\u00e9rabilit\u00e9s troublantes dans ces syst\u00e8mes. […]<\/p>\n","protected":false},"author":7,"featured_media":10510,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[8279,8278],"ppma_author":[186],"class_list":{"0":"post-10512","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-artificial-intelligence-fr","8":"tag-failles-de-securite","9":"tag-regulation-technologique"},"_form":null,"_mail":null,"_mail_2":null,"_messages":null,"_additional_settings":null,"_locale":null,"_hash":null,"_wp_attached_file":null,"_wp_attachment_metadata":null,"_elementor_page_settings":null,"_menu_item_type":null,"_menu_item_menu_item_parent":null,"_menu_item_object_id":null,"_menu_item_object":null,"_menu_item_target":null,"_menu_item_classes":null,"_menu_item_xfn":null,"_menu_item_url":null,"_thumbnail_id":"10510","_wp_old_slug":null,"_oembed_aabfd980ef699725dc5d6ea0f5c5f063":null,"_oembed_time_aabfd980ef699725dc5d6ea0f5c5f063":null,"foxiz_menu_meta":null,"foxiz_user_rating":null,"_wp_attachment_image_alt":null,"ruby_tagline":null,"ruby_live_blog":null,"rank_math_primary_category":null,"_wp_attachment_context":null,"wpml_media_processed":null,"ppmacf_slug":null,"ppmacf_type":null,"ppmacf_field_status":null,"ppmacf_requirement":null,"ppmacf_social_profile":null,"ppmacf_schema_property":null,"ppmacf_rel":null,"ppmacf_target":null,"ppmacf_description":null,"ppmacf_inbuilt":null,"ppma_boxes_layout_meta_value":null,"ppma_disable_author_box":null,"_mc4wp_settings":null,"text_subscribed":null,"text_invalid_email":null,"text_required_field_missing":null,"text_already_subscribed":null,"text_error":null,"text_unsubscribed":null,"text_not_subscribed":null,"text_no_lists_selected":null,"text_updated":null,"text_spam":null,"_pingme":null,"_encloseme":null,"_wp_trash_meta_comments_status":null,"_elementor_page_assets":null,"_elementor_element_cache":null,"_wp_page_template":null,"_elementor_edit_mode":null,"_elementor_template_type":null,"foxiz_content_total_word":null,"_elementor_version":null,"_elementor_data":null,"ppma_authors_name":"Julian Singh","rb_global_meta":null,"_elementor_controls_usage":null,"_wp_old_date":null,"ao_post_optimize":null,"rank_math_analytic_object_id":null,"rank_math_og_content_image":null,"_edit_lock":null,"rank_math_seo_score":null,"rank_math_internal_links_processed":null,"_edit_last":null,"_wpml_word_count":"1154","_wpml_location_migration_done":"1","rank_math_focus_keyword":"Normes d'essai de s\u00e9curit\u00e9 de l'IA","rank_math_title":null,"rank_math_description":"Les experts en IA r\u00e9clament des normes d'essai de s\u00e9curit\u00e9 plus strictes face aux vuln\u00e9rabilit\u00e9s troublantes. D\u00e9couvrez pourquoi la r\u00e9gulation devient urgente dans ce contexte.","_wpml_media_duplicate":null,"_wpml_media_featured":null,"_top_nav_excluded":null,"_cms_nav_minihome":null,"_last_translation_edit_mode":null,"_elementor_template_widget_type":null,"_elementor_popup_display_settings":null,"_wp_trash_meta_status":null,"_wp_trash_meta_time":null,"_wp_desired_post_slug":null,"_elementor_css":null,"authors":[{"term_id":186,"user_id":7,"is_guest":0,"slug":"julian-singh","display_name":"Julian Singh","avatar_url":"https:\/\/secure.gravatar.com\/avatar\/1d4c4e0f090aa7c8e43cddfa7162b752?s=96&d=mm&r=g","0":null,"1":"","2":"","3":"","4":"","5":"","6":"","7":"","8":""}],"_links":{"self":[{"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/posts\/10512","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/comments?post=10512"}],"version-history":[{"count":0,"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/posts\/10512\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/media\/10510"}],"wp:attachment":[{"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/media?parent=10512"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/categories?post=10512"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/tags?post=10512"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.mediawall.news\/fr\/wp-json\/wp\/v2\/ppma_author?post=10512"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}