Skip to main content
Elevage de précisionEvaluation du BEA et Etiquetage

Multi-animal 3D social pose estimation, identification and behaviour embedding with a few-shot learning framework

By 8 janvier 2024janvier 24th, 2024No Comments

Type de document : article scientifique publié dans Nature Machine Intelligence

Auteurs : Yaning Han, Ke Chen, Yunke Wang, Wenhao Liu, Zhouwei Wang, Xiaojing Wang, Chuanliang Han, Jiahui Liao, Kang Huang, Shengyuan Cai, Yiting Huang, Nan Wang, Jinxiu Li, Yangwangzi Song, Jing Li, Guo-Dong Wang, Liping Wang, Yaping Zhang, Pengfei Wei

Résumé en français (traduction) : Estimation de la position sociale en 3D de plusieurs animaux, identification et intégration du comportement à l’aide d’un cadre d’apprentissage en peu d’étapes
La quantification du comportement social des animaux est une étape essentielle pour révéler les fonctions cérébrales et les troubles mentaux pendant les phases d’interaction. Bien que les approches basées sur l’apprentissage profond aient permis une estimation précise de la position, l’identification et la classification comportementale de plusieurs animaux, l’application de ces approches est remise en question par le manque de jeux de données bien annotés. Nous présentons ici un cadre informatique, le Social Behavior Atlas (SBeA), utilisé pour surmonter le problème posé par les jeux de données limités. Le SBeA utilise un nombre beaucoup plus réduit d’images étiquetées pour l’estimation de la pose tridimensionnelle de plusieurs animaux, réalise une reconnaissance d’identification sans étiquette et applique avec succès l’apprentissage dynamique non supervisé à la classification du comportement social. Nous avons validé le SBeA pour découvrir des phénotypes de comportement social précédemment ignorés chez des souris knock-out atteintes de troubles du spectre autistique. Nos résultats démontrent également que le SBeA peut atteindre des performances élevées pour diverses espèces en utilisant des jeux de données personnalisés existants. Ces résultats soulignent le potentiel du SBeA pour quantifier des comportements sociaux subtils dans les domaines des neurosciences et de l’écologie.

Résumé en anglais (original) : The quantification of animal social behaviour is an essential step to reveal brain functions and psychiatric disorders during interaction phases. While deep learning-based approaches have enabled precise pose estimation, identification and behavioural classification of multi-animals, their application is challenged by the lack of well-annotated datasets. Here we show a computational framework, the Social Behavior Atlas (SBeA) used to overcome the problem caused by the limited datasets. SBeA uses a much smaller number of labelled frames for multi-animal three-dimensional pose estimation, achieves label-free identification recognition and successfully applies unsupervised dynamic learning to social behaviour classification. SBeA is validated to uncover previously overlooked social behaviour phenotypes of autism spectrum disorder knockout mice. Our results also demonstrate that the SBeA can achieve high performance across various species using existing customized datasets. These findings highlight the potential of SBeA for quantifying subtle social behaviours in the fields of neuroscience and ecology.

 

Logo de Nature Machine Intelligence
Extrait du site de Nature Machine Intelligence