Note : Le titre est légèrement trompeur car / et /root sont différents.
/root étant un sous-répertoire de / et correspondant au "home" de l'utilisateur root.
Mais c'est vrai que la confusion est facile puisque / qui correspond à la racine et que ça se dit "root" en anglais...
Sinon, cette arborescence n'est pas une simple convention, elle est vraiment standardisée (au même titre que les protocoles réseaux par exemple). Ça s'appelle la FHS : http://en.wikipedia.org/wiki/Filesystem_Hierarchy_Standard
À noter également qu'une distribution GNU/Linux, pour être reconnue comme telle par la fondation Linux doit entre autre respecter cette norme ainsi que d'autres.
C'est ce qu'on appelle la LSB : http://en.wikipedia.org/wiki/Linux_Standard_Base