Anatomy of the Shape Hessian

Summary The computation of the Shape Gradient with respect to domain perturbations plays a central role in the theory and numerical solution of Shape Optimization problems. In 1907 J. Hadamard introduced a method which has been and still is widely used to obtain many useful results for applications. The mathematical limitation of his method rests in the fact that the deformations of the domain are a function of the smoothness of the normal to the boundary (hence the smoothness of the boundary). New developments by the Nice School (J. Cea and J. P. Zolesio) using arbitrary velocity fields of deformation relaxed the condition that the deformation be carried by the normal to the boundary. Finally the use of «Shape Lagrangians» by Delfour and Zolésio made it possible to obtain Shape Gradients by a simple constructive method which does not require the derivative of the state with respect to the domain. In this paper we apply this last method to semi convex cost functions. This extension makes it possible to compute the «Shape Hessian» or «Shape directional second derivative». We give several expressions for the «Shape Hessian» and a set of equations characterizing its kernel.

---

Résumé En Optimisation de forme le calcul du gradient par rapport aux déformations du domaine joue un rôle central dans la théorie et la résolution numérique de ces problèmes. C'est en 1907 que J. Hadamard montra comment obtenir ces gradients par une méthode originale de perturbations du domaine portées par la normale à la frontière du domaine. La «méthode d'Hadamard» a permis jusqu'à nos jours de traiter ces problèmes et d'obtenir de nombreux résultats utiles pour les applications. La limitation mathématique de cette méthode réside dans le fait que les déformations sont liées à la régularité de la normale (donc celle de la frontière). De nouveaux développements utilisant la méthode des champs de vitesse de déformation de l'École niçoise (J. Céa et J. P. Zolésio) ont permis de séparer les contributions respectives de ces deux variables. Enfin l'utilisation du «lagrangien de forme» par Delfour et Zolésio a permis d'obtenir les gradients de forme par une méthode simple et constructive ne nécessitant pas la dérivée de l'état par rapport au domaine. Dans cet article nous appliquons cette dernière méthode à des fonctions coût semi convexes ce qui permet d'obtenir l'«hessien de forme» ou derivée directionnelle seconde par rapport aux domaines. On donne plusieurs expressions de cet hessien ainsi que des équations caractérisant son noyau.