不要。

根据上海市公安局的回应，由于我国《出入境管理法》还没有配套细则，对于“出国定居”的含义尚不明确具体，现阶段，对于取得外国永久居留许可的上海籍中国公民，不会主动注销其户籍。

所以，目前日本永住中国户口不会被取消。