En el Sub Activity_KeyPress (KeyCode As Int) As Boolean tienes que consumir el evento, esto quiere decir que si quieres seguir en la aplicación al capturar la tecla atras como bien te ha dicho javierfs tendras que hacer un Return True, y si quieres que salga de la aplicacion, nada o un Return False
B4X:
If KeyCode = KeyCodes.KEYCODE_BACK Then
If QuieroQueSeQuede then Return True
If QuieroQueSalga then Return False
End If