Segment Anything Model de Meta disponible sur QGIS !

[Recherche] Exemples de cas d’études agro-environnementales basés sur du matériels low-cost…
mars 19, 2024
Les outils d’aide à la décision dans les sciences du vivant
mars 22, 2024
Show all

Segment Anything Model de Meta disponible sur QGIS !

Segment Anything Model (appelez le SAM), est un modèle récemment crée et rendu disponible par Meta (ex Facebook).
Comme son nom l’indique, il permet de segmenter à peu près n’importe quoi sur une image à partir d’un simple « prompt », en pointant l’objet que l’on veut segmenter. Avec ce genre de projet l’objectif est d’entrainer un modèle sur un jeu de données immense (ici 1 milliard d’objets segmentés sur 11 millions d’images) pour le rendre assez bon pour être utilisé sur une variété d’images et segmenter des objets qu’il n’a jamais vus.

Cependant tout le monde n’est pas un développeur rompu au Deep Learning, ainsi récemment une extension QGIS a été créée le rendant disponible pour tous et (plus ou moins) adapté aux données de télédétection. https://github.com/coolzhao/Geo-SAM

Un outil qui pourra se révéler très pratique à l’avenir pour rapidement créer des données d’apprentissage labellisées ou tout simplement délimiter des parcelles ou zones d’intérêt sur des images satellites.

Voici un exemple de parcelle viticole du Domaine du Chapitre délimitée en indiquant trois points, 1 bleu pour l’objet en lui même, et deux rouges pour ce qui n’est pas l’objet, pour raffiner la segmentation.

Exemple de parcelle viticole segmentée avec le plugin Geo-SAM

💡 le modèle arrive à trouver une cohérence même si la parcelle est constituée de rang des vignes et de sol, et pas seulement de la végétation, intéressant !
Le polygone peut bien sûr directement être sauvegardé en format shapefile. Je vous laisse tester pour vous faire votre avis !

Points d’amélioration :

  • Ne prend en entrée que des images 8 bit avec les 3 canaux Rouge, Vert, Bleu, pas encore de multispectral !
  • Les objets à segmenter ont une taille limitée, cela peut être problématique si l’on veut détecter des routes ou de grandes parcelles par exemple.

Aller plus loin

La plupart de ces « foundation model » étant entrainés avec des images classiques, ils ne sont pas spécialisés pour la télédétection (emprise d’objets larges, inclusion d’un objet dans un autre, canaux particuliers,etc…). Récemment la communauté a entrainé de nombreux nouveaux modèles spécialisés sur des tâches de télédétection (disponibles ici).

Tout ce que l’attend maintenant, c’est de pouvoir les utiliser facilement dans les outils classiques de SIG !