No puede ser, tengo aplicaciones con mas de 30 activitys y tal como lo estas haciendo, abriendo y cerrando de forma estructurada y funcionan perfectamente!!!!.
Solo se me ocurre decirte vb4android funciona algo distinto que vb.net, y cuando ejecutas un activity hijo, el hilo del padre sigue corriendo, por lo que si tienens un StartActivity y detras de eso hay mas comandos los ejecutará y si uno de ellos es un ExitApplicattion o un Activity.Finish lo ejecutará y te cerrará la aplicación.