Le Foresight Institute lance un appel à candidatures pour son programme de subventions dédié à la sécurité de l’intelligence artificielle avancée.
Objectif
Financer des projets de recherche à fort impact et à haut risque qui répondent aux défis majeurs de la sécurité de l’IA.
Domaines prioritaires
Technologies de sécurité pour systèmes d’IA
(vérification formelle, red-teaming automatisé, calcul décentralisé, etc.)Neurotechnologies inspirées du cerveau
(interfaces cerveau-ordinateur, architectures biologiquement inspirées, etc.)Scénarios multi-agents sécurisés
(détection de collusion, agents prosociaux, simulations IA-humain)Automatisation de la recherche et outils de prévision IA
(revues de littérature, génération d’hypothèses, systèmes collaboratifs)
Montant des subventions
De 10 000 $ à 300 000 $ et plus, avec un budget annuel total de 4,5 à 5,5 millions de dollars.
Critères d’éligibilité
Pertinence pour réduire les risques existentiels liés à l’IA
Délivrabilité rapide (1 à 3 ans)
Alignement avec les domaines prioritaires
Expérience et capacités solides de l’équipe
Potentiel de risque élevé et de récompense importante
Conditions
Projets à court ou long terme acceptés
Tous les pays peuvent postuler
Rapports semestriels et financement par étapes pour les projets importants
Processus de candidature
Remplir le formulaire en ligne
Évaluation par des pairs et revue technique
Entretiens possibles pour les candidats présélectionnés
Décision finale sous 8 à 12 semaines après la date limite
Dates limites trimestrielles
31 mars, 30 juin, 30 septembre, 31 décembre
