A propos du masquage : masques par couleur, par luminance et par différence

Le masquage (ou l’incrustation) définit la transparence par une valeur de couleur ou de luminance particulière dans une image. Lorsque vous masquez une valeur, tous les pixels ayant la même valeur chromatique ou la même valeur de luminance deviennent transparents.

Cette technique facilite le remplacement d’un arrière-plan, ce qui est particulièrement utile lorsque vous utilisez des objets difficiles à masquer. Lorsque vous placez un calque masqué sur un autre, vous obtenez un composite. L’arrière-plan apparaît là où le calque masqué est transparent.

Les composites créés à partir de techniques de masquage sont fréquents dans les films, par exemple, lorsque vous avez l’impression qu’un acteur est suspendu à un hélicoptère ou qu’il flotte dans l’espace intersidéral. Pour créer cet effet, l’acteur est filmé dans la position appropriée devant un écran d’arrière-plan de couleur unie. La couleur d’arrière-plan est ensuite isolée par masquage, et la scène avec l’acteur est combinée à un nouvel arrière-plan.

La technique d’isolation d’un arrière-plan de couleur homogène est souvent appelée filtrage bleu ou filtrage vert, bien que vous ne deviez utiliser ni filtre bleu, ni filtre vert. Vous pouvez utiliser n’importe quelle couleur unie d’arrière-plan. Les écrans rouges sont souvent utilisés pour projeter des objets non humains, tels que des voitures ou des vaisseaux spatiaux miniatures. Les écrans magenta ont été utilisés pour isoler par masquage le travail dans certains longs métrages célèbres pour leurs effets visuels. D’autres termes courants pour cette sorte de masquage sont masquage colorimétrique et masquage chromatique.

Le masquage par différence de couleur (ou différentiel) présente des différences de fonctionnement par rapport au masquage colorimétrique. Le masquage par différence de couleur définit la transparence par rapport à une image d’arrière-plan de ligne de base donnée. Au lieu d’isoler un écran à une couleur, vous pouvez isoler un arrière-plan arbitraire. Pour utiliser le masquage par différence, vous devez disposer d’au moins une image ne contenant que l’arrière-plan ; les autres images sont comparées à celle-ci et les pixels de l’arrière-plan sont transparents pour conserver les objets de premier plan. Le bruit, le grain et d’autres variations subtiles peuvent rendre le masquage par différence difficilement exploitable en pratique.

Effets de masquage, dont Keylight

After Effects comprend plusieurs effets de masquage intégrés, ainsi que l’effet Keylight primé, lequel excelle en masquage en chrominance de qualité professionnelle. (Voir Effets de masquage et Effets de cache.)

Pour plus d’informations sur l’effet Keylight, reportez-vous à sa documentation dans le dossier dans lequel est installé le module externe Keylight ou sur le site Web Foundry.

Les effets Nettoyeur de masque et Nettoyage de masque avancé sont les plus efficaces lorsqu’ils sont appliqués, dans cet ordre, après un effet d’incrustation, comme Keylight. 

Utilisez la préconfiguration prédéfinie Keylight + Nettoyeur de masque + Nettoyage de masque avancé (dans le dossier Préconfigurations d’utilitaires d’image) pour appliquer les trois effets. L’effet Nettoyage de masque avancé est désactivé par défaut pour vous permettre d’échantillonner le masquage par couleur dans l’effet Keylight ou lorsque le métrage ne comporte aucun débordement de couleur à supprimer. Pour plus d’informations, reportez-vous à la section Effets Nettoyeur de masque et Nettoyage de masque avancé.

Mark Christiansen propose des conseils et des techniques sur l’utilisation de l’effet Keylight dans un extrait de son livre After Effects Studio Techniques: Visual Effects and Compositing, disponible sur le site web Press de Peachpit. Dans un extrait tiré du chapitre « Color Keying in After Effects » (Masquage colorimétrique dans After Effects) de son livre After Effects Studio Techniques, Mark Christiansen livre de précieux conseils sur le masquage colorimétrique. Il y indique notamment les effets de masquage à éviter et explique comment surmonter les problèmes les plus courants en termes de masquage.

Pour consulter un didacticiel détaillé expliquant l’utilisation des effets Masq. par différence de couleur, Dilaté-érodé répétitif et Nettoyage de masque, ainsi que les masques rapides, reportez-vous au chapitre « Keying in After Effects » (Masquage dans After Effects) du livre After Effects Classroom in a Book disponible sur le site Web Presse de Peachpit.

Jeff Foster fournit gratuitement certains chapitres de son livre The Green Screen Handbook: Real World Production Techniques. Ces chapitres traitent de la composition de base, du masquage colorimétrique, des caches de transparence et des caches de maintien, ainsi que de la manière d’éviter les problèmes courants inhérents aux prises sur écran vert. Pour de plus amples informations, consultez le site Web d’Adobe.

Rich Young rassemble plusieurs ressources et conseils pour le masquage sur son site Web d’After Effects Portal.

Conseils sur masquage des couleurs et le montage du compositeur renommé, Chris Zwar.

Tournage et acquisition de métrage en vue du masquage

Pour obtenir des conseils sur le tournage d’un métrage de manière à faciliter et à améliorer le masquage en chrominance, consultez le site Web General Specialist de Jonas Hummelstrand.

• Eclairez votre écran couleur de manière uniforme et évitez les rides.

• Munissez-vous des supports les plus performants (par exemple, du film que vous pouvez numériser).

• Utilisez un métrage sans compression (ou, au moins, des fichiers le moins compressés possible). Nombre d’algorithmes de compression, surtout ceux utilisés en DV, HDV et Motion JPEG, ignorent les variations subtiles de bleu, qui peuvent être indispensables pour créer un bon masquage à partir d’un écran bleu. Utilisez un métrage avec le plus petit sous-échantillonnage de couleur possible ; par exemple, préférez 4:2:2 à 4:2:0 ou 4:1:1. (Pour de plus amples informations sur le sous-échantillonnage de couleur, consultez le site Web Wikipedia et le site Web d’Adobe .)

Robbie Carman et Richard Harrington proposent sur le site Web Peachpit un extrait de leur livre Video Made On A Mac qui explique comment planifier, tourner, masquer et composer un plan sur écran vert.

Conseils pour le masquage avec After Effects

• Utilisez un cache rapide pour dessiner grossièrement le contour de votre sujet pour ne pas perdre de temps ensuite à masquer les zones de l’arrière-plan éloignées du sujet au premier plan (voir Utilisation d’un cache rapide).
• Utilisez un cache de maintien afin de protéger grossièrement les zones d’une couleur semblable à celle de l’arrière-plan et d’éviter ainsi qu’elles ne soient masquées (voir Utilisation d’un cache de maintien).
• Pour mieux faire ressortir les transparences, vous pouvez temporairement modifier la couleur de fond d’une composition ou insérer un calque de fond derrière le calque que vous masquez. Lorsque vous appliquez le masquage au calque situé au premier plan, l’arrière-plan de la composition (ou le calque de fond) transparaît et vous permet de voir facilement les zones transparentes (Voir Paramètres de composition.)
• Lorsque l’éclairage est réparti de façon égale dans le métrage, vous ne devez configurer les paramètres de masquage que sur une image. Choisissez l’image la plus compliquée, c’est-à-dire une image comprenant des détails très précis (par exemple, une chevelure) et des objets transparents ou semi-transparents (par exemple, de la fumée ou du verre). Si l’éclairage est constant, les paramètres que vous définissez pour la première image s’appliquent à toutes les autres. Si l’éclairage varie, il vous faudra probablement configurer les paramètres de masquage dans les autres images. Insérez les images clés du premier groupe de propriétés de masquage au début de la scène. Si vous configurez des images clés pour une seule propriété, utilisez l’interpolation linéaire. Si vous utilisez un métrage qui requiert des images clés pour plusieurs propriétés en interaction, utilisez l’interpolation de maintien. Si vous associez des images clés à des propriétés de masquage, vous avez la possibilité de vérifier le résultat image par image. Il arrive que des valeurs de masquage intermédiaires apparaissent et produisent un résultat inattendu.
• Pour masquer un métrage bien éclairé réalisé sur un écran couleur, commencez par utiliser l’effet Masquage par différence de couleur. Ajoutez l’effet Nettoyage de masque avancé pour supprimer les traces de couleur de découpe et, au besoin, utilisez ensuite l’un ou plusieurs des autres effets de cache. Si les résultats ne vous conviennent pas, recommencez en utilisant l’effet Masquage linéaire par couleur.
• Pour masquer un métrage bien éclairé réalisé sur plusieurs couleurs ou un métrage éclairé de façon inégale réalisé sur un écran bleu ou vert, commencez par utiliser l’effet Masquage par plage de couleurs. Ajoutez l’effet Nettoyage de masque avancé et d’autres effets pour affiner le cache. Si les résultats ne vous conviennent pas, recommencez (ou complétez l’opération) en utilisant l’effet Masquage linéaire par couleur.
• L’utilisation consécutive des effets Nettoyeur de masque et Nettoyage de masque avancé est le meilleur moyen pour appliquer des effets d’incrustation. Vous pouvez combiner, dans cet ordre, l’effet Keylight aux effets Nettoyeur de masque et Nettoyage de masque avancé sur un calque à l’aide de l’animation prédéfinie Keylight + Nettoyeur de masque + Nettoyage de masque avancé dans le dossier Image-Utlities sous Animations prédéfinies. L’effet Nettoyage de masque avancé est désactivé par défaut pour vous permettre d’échantillonner le masquage par couleur dans l’effet Keylight ou lorsque le métrage ne comporte aucun débordement de couleur à supprimer. Pour plus d’informations, voirEffets Nettoyeur de masque et Nettoyage de masque avancé.
• Pour masquer des zones sombres ou des tons foncés, utilisez le masquage par extraction sur la couche de luminance.
• Pour rendre transparente une scène d’arrière-plan statique, utilisez l’effet Masquage par différence. Le cas échéant, utilisez l’effet Dilaté-érodé simple et les autres effets disponibles pour affiner le cache.
• Dès que vous avez utilisé un masquage pour créer une transparence, vous pouvez utiliser les effets de cache pour éliminer les traces de la couleur de découpe et créer des contours nets.
• L’application d’un flou à la couche alpha après le masquage peut adoucir les bords du cache et améliorer les résultats de l’assemblage.

Utilisation d’un cache rapide

Un cache rapide (ou cache grossier) permet de supprimer des parties superflues de la scène, donnant ainsi une zone brute limitée au sujet à conserver. Lorsque vous êtes confronté à un écran couleur (par exemple, bleu ou vert) mal éclairé ou éclairé de façon inégale, le fait de dessiner un cache rapide autour du sujet peut réduire de manière significative la charge de travail nécessaire pour masquer l’arrière-plan. Toutefois, si vous passez beaucoup de temps à réaliser le cache rapide parfait qui suit parfaitement les contours du sujet (rotoscopie), vous perdez l’avantage de gain de temps que vous apporte le masquage colorimétrique.

Aharon Rabinowitz explique, dans un didacticiel vidéo disponible sur le site Web Creative COW, comment créer un cache rapide très précis avec la fonction Tracé automatique.

Utilisation d’un cache de maintien

Utilisez un cache de maintien (aussi appelé cache de protection) pour retoucher une scène à laquelle un effet de masquage a été appliqué.

Un cache de maintien est une partie masquée d’un calque dupliqué que vous avez masqué. Le doublon est masqué pour inclure uniquement la zone de l’image qui contient la couleur de découpe qui doit rester opaque. Le cache de maintien est ensuite placé directement sur le calque masqué.