75 	struct vdpa_device vdpa;  member
149 static inline struct vduse_dev *vdpa_to_vduse(struct vdpa_device *vdpa)  in vdpa_to_vduse()  argument
151 	struct vduse_vdpa *vdev = container_of(vdpa, struct vduse_vdpa, vdpa);  in vdpa_to_vduse()
158 	struct vdpa_device *vdpa = dev_to_vdpa(dev);  in dev_to_vduse()  local
160 	return vdpa_to_vduse(vdpa);  in dev_to_vduse()
478 static int vduse_vdpa_set_vq_address(struct vdpa_device *vdpa, u16 idx,  in vduse_vdpa_set_vq_address()  argument
482 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_vq_address()
514 static void vduse_vdpa_kick_vq(struct vdpa_device *vdpa, u16 idx)  in vduse_vdpa_kick_vq()  argument
516 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_kick_vq()
526 static void vduse_vdpa_set_vq_cb(struct vdpa_device *vdpa, u16 idx,  in vduse_vdpa_set_vq_cb()  argument
529 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_vq_cb()
539 static void vduse_vdpa_set_vq_num(struct vdpa_device *vdpa, u16 idx, u32 num)  in vduse_vdpa_set_vq_num()  argument
541 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_vq_num()
547 static u16 vduse_vdpa_get_vq_size(struct vdpa_device *vdpa, u16 idx)  in vduse_vdpa_get_vq_size()  argument
549 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_vq_size()
558 static void vduse_vdpa_set_vq_ready(struct vdpa_device *vdpa,  in vduse_vdpa_set_vq_ready()  argument
561 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_vq_ready()
567 static bool vduse_vdpa_get_vq_ready(struct vdpa_device *vdpa, u16 idx)  in vduse_vdpa_get_vq_ready()  argument
569 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_vq_ready()
575 static int vduse_vdpa_set_vq_state(struct vdpa_device *vdpa, u16 idx,  in vduse_vdpa_set_vq_state()  argument
578 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_vq_state()
594 static int vduse_vdpa_get_vq_state(struct vdpa_device *vdpa, u16 idx,  in vduse_vdpa_get_vq_state()  argument
597 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_vq_state()
606 static u32 vduse_vdpa_get_vq_align(struct vdpa_device *vdpa)  in vduse_vdpa_get_vq_align()  argument
608 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_vq_align()
613 static u64 vduse_vdpa_get_device_features(struct vdpa_device *vdpa)  in vduse_vdpa_get_device_features()  argument
615 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_device_features()
620 static int vduse_vdpa_set_driver_features(struct vdpa_device *vdpa, u64 features)  in vduse_vdpa_set_driver_features()  argument
622 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_driver_features()
628 static u64 vduse_vdpa_get_driver_features(struct vdpa_device *vdpa)  in vduse_vdpa_get_driver_features()  argument
630 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_driver_features()
635 static void vduse_vdpa_set_config_cb(struct vdpa_device *vdpa,  in vduse_vdpa_set_config_cb()  argument
638 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_config_cb()
646 static u16 vduse_vdpa_get_vq_num_max(struct vdpa_device *vdpa)  in vduse_vdpa_get_vq_num_max()  argument
648 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_vq_num_max()
659 static u32 vduse_vdpa_get_device_id(struct vdpa_device *vdpa)  in vduse_vdpa_get_device_id()  argument
661 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_device_id()
666 static u32 vduse_vdpa_get_vendor_id(struct vdpa_device *vdpa)  in vduse_vdpa_get_vendor_id()  argument
668 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_vendor_id()
673 static u8 vduse_vdpa_get_status(struct vdpa_device *vdpa)  in vduse_vdpa_get_status()  argument
675 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_status()
680 static void vduse_vdpa_set_status(struct vdpa_device *vdpa, u8 status)  in vduse_vdpa_set_status()  argument
682 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_status()
690 static size_t vduse_vdpa_get_config_size(struct vdpa_device *vdpa)  in vduse_vdpa_get_config_size()  argument
692 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_config_size()
697 static void vduse_vdpa_get_config(struct vdpa_device *vdpa, unsigned int offset,  in vduse_vdpa_get_config()  argument
700 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_config()
714 static void vduse_vdpa_set_config(struct vdpa_device *vdpa, unsigned int offset,  in vduse_vdpa_set_config()  argument
720 static int vduse_vdpa_reset(struct vdpa_device *vdpa)  in vduse_vdpa_reset()  argument
722 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_reset()
730 static u32 vduse_vdpa_get_generation(struct vdpa_device *vdpa)  in vduse_vdpa_get_generation()  argument
732 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_generation()
737 static int vduse_vdpa_set_vq_affinity(struct vdpa_device *vdpa, u16 idx,  in vduse_vdpa_set_vq_affinity()  argument
740 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_vq_affinity()
751 vduse_vdpa_get_vq_affinity(struct vdpa_device *vdpa, u16 idx)  in vduse_vdpa_get_vq_affinity()  argument
753 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_get_vq_affinity()
758 static int vduse_vdpa_set_map(struct vdpa_device *vdpa,  in vduse_vdpa_set_map()  argument
762 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_set_map()
778 static void vduse_vdpa_free(struct vdpa_device *vdpa)  in vduse_vdpa_free()  argument
780 	struct vduse_dev *dev = vdpa_to_vduse(vdpa);  in vduse_vdpa_free()
2010 	vdev = vdpa_alloc_device(struct vduse_vdpa, vdpa, dev->dev,  in vduse_dev_init_vdpa()
2017 	vdev->vdpa.dev.dma_mask = &vdev->vdpa.dev.coherent_dma_mask;  in vduse_dev_init_vdpa()
2018 	ret = dma_set_mask_and_coherent(&vdev->vdpa.dev, DMA_BIT_MASK(64));  in vduse_dev_init_vdpa()
2020 		put_device(&vdev->vdpa.dev);  in vduse_dev_init_vdpa()
2023 	set_dma_ops(&vdev->vdpa.dev, &vduse_dev_dma_ops);  in vduse_dev_init_vdpa()
2024 	vdev->vdpa.dma_dev = &vdev->vdpa.dev;  in vduse_dev_init_vdpa()
2025 	vdev->vdpa.mdev = &vduse_mgmt->mgmt_dev;  in vduse_dev_init_vdpa()
2053 		put_device(&dev->vdev->vdpa.dev);  in vdpa_dev_add()
2057 	ret = _vdpa_register_device(&dev->vdev->vdpa, dev->vq_num);  in vdpa_dev_add()
2059 		put_device(&dev->vdev->vdpa.dev);  in vdpa_dev_add()