Hazlo directamente del arma (objeto) al hueso con Ctrl+P > Bone (siendo el hueso de la palma de la mano (como ejemplo) al que lo unas.
También sería interesante poner el ORIGIN o centro del objeto del rifle, en un sitio donde la rotación no de problemas.
Procura que el arma sea una solo objeto.
https://youtu.be/ukLcLTxBxzs
:::::::::
Si el arma tiene varias piezas, también se podría hacer otra cosa, que sería emparentar todas esas piezas a un EMPTY y así luego emparentar el empty al hueso (Bone), y hasta te da la posibilidad de jugar un poco con rotaciones del Empty para ajustar.