Les séries temporelles de niveau 3A de Sentinel-2, de Juillet à Novembre

=>

Comme chaque mois, Peter Kettig du CNES a produit les synthèses de niveau 3A à partir de Sentinel-2 du mois précédent (Merci Peter !). Les données à pleine résolution, avec leurs masques de qualité, peuvent être téléchargées depuis le serveur de distribution Theia au CNES.
 
Si vous n'avez pas peur d'y passer trop de temps, alors que de nombreuses urgences vous attendent, vous pouvez jeter un oeil aux mosaïques de ces produits disponibles sur la France depuis Juillet. Chaque mosaique est accessible à partir des liens ci-dessous :

 
Une chouette interface de visualisation (merci à Michel Lepage !), est aussi disponible ci-dessous, pour comparer la synthèse d'octobre avec celle des mois précédents.
 
En novembre , en France, nous avons eu une météo française de novembre, et plusieurs régions sont restées couvertes à chaque passage de Sentinel-2, sur la période de synthèse de 45 jours, centrée sur le 15 Novembre. Dans ce cas, nous fournissons les réflectances de la date où la réflectance dans le bleu est minimale, et nous indiquons dans les produits, pas sur la mosaïque, que le pixel est nuageux. Donc, la synthèse du mois de novembre n'est pas aussi belle que les précédentes. Comme en octobre (voir ci-dessous), des bords d'orbite deviennent visibles.
 
Ceci dit, les résultats restent corrects sur de nombreuses régions, et on peut observer les sols plus humides et plus sombres, le démarrage des cultures d'hiver, la chute des feuilles dans les forêts de feuillus, et les sommets enneigés.
 
En octobre, pour la première fois, un artefact de bord d'orbite apparaît clairement du côté de Cambrai. Même si c'est un endroit où l'on peut faire des bêtises, cet artefact est dû au changement de date. la partie Ouest est brune, et la partie Est est verte. A cause de la couverture nuageuse importante, la date moyenne de la partie Est se situe bien après celle de la partie Ouest. Le seul moyen d'éviter ce genre d'artefacts sera d'a jouter un ou deux satellites Sentinel-2 de plus, pour faire des synthèses sur des données moins longues (ici nous utilisons 45 jours).

 

See it full screen
Continue reading

Sentinel-2 Level3A time series (July to November 2018)

=>

As every month, Peter Kettig from CNES processed the Sentinel-2 L3A composites of France from the Month before. The full resolution data, and the corresponding data quality masks, can be downloaded from Theia's distribution server at CNES.

If you are not afraid to spend too much time while you have urgent things to do, you may have a look to the mosaic of Sentinel-2 monthly syntheses for each month since July over France. Each monthly synthesis is accessible using the following links :

Or you may also use the nice viewer below (merci Michel Lepage !) to compare with the previous months.

In November, in France, we had a... French November weather, and several zones stayed overcast for all Sentinel-2 overpasses during the synthesis period of 45 days. In that case, we try to provide a value, which is the minimum reflectance in the blue band. Of course this value is flagged as invalid. So the November synthesis is not as nice as the previous ones, due to the presence of remaining clouds. As in October (see below), we now also see artefacts at the edges of the swath.

Anyway, in many regions, the results are rather correct and they allow us to see the changes. Forests are now brown, soils are wetter and darker, winter crops have started, and the highest mountains are turning white.

In October, we had the first the opportunity to observe a neat swath edge effect in four months, near Cambrai, North of France. The Western part of the artefact is browner than the Eastern part. Because of the cloud cover, the average date used in the eastern part is several days before the average date of the western part. , due to the observation at very different dates on each side of the swath. So the only way to improve that with the current method would be to add a third or even a fourth Sentinel satellite.

See it full screen
Continue reading

Sentinel-2 Level3A time series (July, August, September 2018)

If you are not afraid to spend too much time while you have urgent things to do, you may have a look to the mosaic of Sentinel-2 monthly syntheses for September over France. You may access to each monthly synthesis using the following links :

 
Or you may also use the viewer below to compare with the previous months and see how France became brown in September :
 

See it full screen

The monthly syntheses are produced using the WASP processor, which is described here.

By comparing the various syntheses, you will see the evolution of the landscape, generally much brownler in September, but this representation will also help you spot the composite artefacts. These are not very numerous, but you will see them :

  • on some web browsers (firefox V58), geometrical differences appear even at a low resolution. Other browsers and versions do not have this defect. It is really not due to Sentinel-2 or Theia products
  • above water and snow (we must work on this defect)
  • where clouds have covered a place during the whole month of July or August. These pixels are flagged as invalid in the products (but not on the mosaic).
  • where clouds or shadows were not properly detected by MAJA
  • at the edges of Sentinel-2 swath. For the first time, in october, a swath edge is clearly visible near Cambrai. The area must have been quite cloudy, and we observe here a greener part on the right, observed later in October, that the browner part on the left. The only way to correct this kind of atefact while keeping a physical meaning to the reflectances, would be to improve Sentinel-2 revisit time
  • some tile edges in July, due to the fact that Level 3A products were not all generated for the 15th of July, but for dates between the 8th and the 26th. This has been corrected for the next months

 

Snow cover duration from 01 Sep 2017 to 31 Aug 2018 in the Alps and Pyrenees

=>

We are thinking to distribute a new product that would provide the snow cover duration in the Alps and the Pyrenees over a hydrological year (snow persistence map). Here is a preview of a "beta" version that is only 100 m resolution for now.
 

Snow cover duration from 01 Sep 2017 to 31 Aug 2018. Pixels with less than 60 days were masked out.


 
A few words on the method (see also here): this map is generated after a linear interpolation at the daily time step of every available Theia snow product. Here we have selected 26 Sentinel-2 tiles, which represents 3189 snow maps for the study period, that is 96 billion pixels to process.
 
With the accumulation of Sentinel-2 data it becomes possible to look at interannual variability. Here is for example a visual comparison of the snow cover duration calculated from January to May for three years in the Pyrenees (31TCH):

 Snow cover duration 31TCH

Snow Duration from Jan 01 to May 31 in the Pyrenees (tile 31TCH)

 
We can see longer snow durations for the year 2018, which was an exceptional year!
 

Durée d'enneigement dans les Alpes et les Pyrénées du 01/09/2017 au 31/08/2018

=>

Nous sommes en train de penser à un nouveau produit qui donnerait la durée d'enneigement dans les Alpes et les Pyrénées au cours de la dernière année hydrologique. Voici ci-dessous un aperçu d'une version "beta" (artisanale) qui n'est qu'à 100 m de résolution pour l'instant.
 

Durée d'enneigement du 01/09/2017 au 31/08/2018.

Durée d'enneigement du 01/09/2017 au 31/08/2018. Les pixels avec moins de 60 jours ont été masqués.


 
Quelques mots sur la méthode (voir aussi ici) : cette carte est générée après une interpolation linéaire au pas de temps journalier de toutes les cartes d'enneigement Theia disponibles. Ici nous avons sélectionné 26 tuiles Sentinel-2, ce qui représente 3189 cartes d'enneigement pour la période considérée, soit 96 milliards de pixels à traiter.
 
Avec l'accumulation des données Sentinel-2 il devient possible de comparer les années entre elles. Voici par exemple une comparaison visuelle de la durée d'enneigement calculée de janvier à mai pour trois années dans les Pyrénées (31TCH):

Durée d'enneigement 31TCH

Durée d'enneigement du 01 janvier au 31 mai sur la tuile 31TCH

 
On voit ressortir des durées d'enneigement élevées pour l'année 2018 qui fut une année exceptionnelle !
 
Un grand merci à Germain Salgues de Magellium pour avoir produit toutes les données rapidement ce qui nous a permis de montrer cette carte au séminaire Theia à Montpellier dès le 18 octobre ! Et merci à Michel Le Page pour la mise en ligne.

[Nouvelles de MUSCATE] Un été très productif

=>

Mise à jour le 4 octobre 2018

Cet été, alors que la plupart d'entre nous prenions des coups de soleil sur la plage, nous faisions dévorer par des moustiques, attrapions des courbatures en rando, ou faisions de longues siestes pour nous remettre de nuits fatigantes, les équipes de production et de distribution de MUSCATE ont eu la chance de bénéficier d'une climatisation efficace, de fauteuils confortables, d'ordinateur rapides et de l'accès à la meilleure cantine du monde au CNES. Il n'est donc pas surprenant que la production ait fait de gros progrès, mais nous pouvons néanmoins leur adresser un grand merci, car les résultats sont impressionnants.

 

Amélioration des performances de production

Theia's L2A counter reached 100 000 images on August 12th

 

Tout d'abord, l'anomalie qui avait perturbé la production à la fin du printemps a été résolue. C'était un problème de capacité de mémoire sur la machine qui héberge le catalogue interne de MUSCATE. Petit à petit, la besoin de mémoire dépassait le volume prévu, et les performances se dégradaient avant que le système ne plante, quasiment tous les jours. Il a suffi de quelques ajustement et d'un doublement de la mémoire pour que le problème disparaisse.

Ainsi, depuis début juillet, MUSCATE n'a plus connu que deux courtes interruptions dues à une phase de maintenance du centre informatique du CNES. Comme on peut le voir sur la figure qui suit,  la courbe orange, qui moyenne la production sur un mois n'a jamais été aussi haute, depuis le démarrage de la production.

 

Number of L2A produced each day by MUSCATE (after removing the products with more than 90% of clouds)

Continue reading

[MUSCATE News] A very productive summer

=>

Updated on October 4th

 

This summer, while most of us were getting sunburnt near the coast, or getting sore legs after hiking in mountains, or having long naps after hectic nights, the lucky MUSCATE teams stayed at work, with a good and efficient air conditioning, convenient armchairs, fast computers and accessed to the best canteen in the world at CNES. So it's no surprise they progressed a lot in all aspects, but even if they benefited from perfect conditions, we should thank them a lot.

 

Improved production performances

Theia's L2A counter reached 100 000 images on August 12th

 

First of all, the colleagues solved the issue that delayed a lot MUSCATE production in late spring. It was a memory issue, with a heavy swap consumption that slowed then crashed the MUSCATE ground segment. Doubling the available memory on the catalogue server solved the issue.

As a result, since beginning of July, MUSCATE had only two interruptions of production, due to maintenance interventions on the CNES platform. As it may be seen below, the monthly average plot in orange shows that the production rate is at its best in two years.

 

Number of L2A produced each day by MUSCATE (after removing the products with more than 90% of clouds)

Continue reading

A seamless and cloudless Sentinel-2 image of France in July 2018

=>
UPDATE: resolution improved to 20m !
 
I had to tinker a couple of days with Theia's Sentinel-2 monthly syntheses, in order to produce the mosaic below. For that, I used:

  • monthly syntheses of Sentinel-2 L3A products delivered by Theia in July 2018; this products are made from Level2A products, corrected from atmospheric effects, and provided with a good cloud mask, thanks to MAJA processor. Such L3A products will be delivered every month.
  • a script developed by Simon Gascoin
  • good advice from Simon and Michel Le Page
  • and Gdal, (Thanks Gdal !)

This mosaic best resolution is 20m. It is already requiring 8 GB. We could have provided it at 10m resolution, but it would have required 32 GB and several dozens of hours of computation.


See it full screen

Continue reading

La France sans nuages et sans coutures, vue par Sentinel-2 et Theia

=>
UPDATE: résolution améliorée à 20m !

Voilà, après quelques jours de bidouille, j'ai réussi à produire la mosaïque de la France à partir:

  • des synthèses mensuelles de produits Sentinel-2 de Niveau 3A fournis par Theia en juillet 2018; Ces produits sont réalisés à partir de données de niveau 2A, corrigé des effets atmosphériques, et avec une bonne détection des nuages, grâce à la chaîne MAJA. Ces données seront produites tous les mois
  • du script mis au point par Simon Gascoin
  • des conseils avisés de Simon et de Michel Le Page
  • et de Gdal, (Merci Gdal !)

La mosaïque vous est présentée à 20m de résolution, elle occupe déjà 8GO. Il aurait été possible de la produire à 10m, mais il aurait fallu 32 GO et quelques dizaines d'heures de plus.

Voir en plein écran

Continue reading

Belgium at 10 m resolution in July 2018

Using the new L3A product in Theia it is possible to make nice cloud-free mosaics from Sentinel-2 imagery. Here is an example for Belgium and the script to do it in your terminal.

 

Click here to view in full screen.
 


# download L3A images over Belgium
python theia_download.py -l 'Belgium' -d 2018-07-01 -f 2018-07-31 --level LEVEL3A -a config_theia.cfg
# unzip using GNU parallel
parallel unzip ::: SENTINEL2X_201807*zip
# make a mosaic of each band
# WARNING only works if all images have the same projection otherwise an extra step is required with gdalwarp
parallel gdalbuildvrt {}.vrt SENTINEL2X_201807*/*{}*.tif ::: B2 B3 B4
# stack the band mosaics
gdalbuildvrt -separate B432.vrt B4.vrt B3.vrt B2.vrt
# export as a RGB image at full resolution
gdal_translate -ot Byte -scale 0 2000 B432.vrt B432.tif
# Optionally clip the image using the polygon of the Belgium borders

gdalwarp -dstnodata 0 -q -cutline Belgium.kml -crop_to_cutline B432.tif B432_Belgium.tif
# make a tiled map to display in a browser
gdal2tiles.py -z 6-12 B432_Belgium.tif

 

NB) I used this command to generate the file Belgium.kml from the Eurostat Countries datasets:


ogr2ogr -f KML Belgium.kml -where "NAME_ENGL='Belgium'" CNTR_RG_01M_2016_4326.shp