Un capteur carré non, ça serait vraiment pas optimal, par contre un capteur 36x32 oui, la surface non effective du capteur serait négligeable tout en gagnant environ 60% de résolution (et même jusqu'à 75%) sur le format carré.
Après bien sûr ça implique d'agrandir le boîtier (chambre, miroir, rideau, pentaprisme ...).
 
Mais franchement sur le papier, un nouveau reflex 36x32 20% plus volumineux qu'un FF et 30% plus cher je serais le premier intéressé, mais bon ce qui compte ce n'est pas mon cas perso mais la demande du marché.  
Mais n'oubliez pas que ça permettrait de faire de l'UGA au format carré, ce qui est faisable sur capteur 36x24 bien sûr mais avec des objectifs ou techniques assez spécifiques. Pour avoir déjà fait du carré à 14mm, on perd une grande partie de l'effet de profondeur que comporte l'image totale en 36x24, par contre du 14mm en 32x32mm      
 
Je tiens quand même à préciser que quand je parle de capteur 36x32 avec 75% de gain en résolution je vois un peu large en incluant de la marge qu'il y'a habituellement dans le cercle d'image des objectifs FF, si on s'en tient exactement au même cercle d'image le capteur ferait 36.0x30.6mm avec le gain de 60% de mon graphique