35 	struct vdpa_device vdpa;  member
52 static struct vp_vdpa *vdpa_to_vp(struct vdpa_device *vdpa)  in vdpa_to_vp()  argument
54 	return container_of(vdpa, struct vp_vdpa, vdpa);  in vdpa_to_vp()
57 static struct virtio_pci_modern_device *vdpa_to_mdev(struct vdpa_device *vdpa)  in vdpa_to_mdev()  argument
59 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vdpa_to_mdev()
69 static u64 vp_vdpa_get_device_features(struct vdpa_device *vdpa)  in vp_vdpa_get_device_features()  argument
71 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_get_device_features()
76 static int vp_vdpa_set_driver_features(struct vdpa_device *vdpa, u64 features)  in vp_vdpa_set_driver_features()  argument
78 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_set_driver_features()
85 static u64 vp_vdpa_get_driver_features(struct vdpa_device *vdpa)  in vp_vdpa_get_driver_features()  argument
87 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_get_driver_features()
92 static u8 vp_vdpa_get_status(struct vdpa_device *vdpa)  in vp_vdpa_get_status()  argument
94 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_get_status()
99 static int vp_vdpa_get_vq_irq(struct vdpa_device *vdpa, u16 idx)  in vp_vdpa_get_vq_irq()  argument
101 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_get_vq_irq()
221 static void vp_vdpa_set_status(struct vdpa_device *vdpa, u8 status)  in vp_vdpa_set_status()  argument
223 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_set_status()
225 	u8 s = vp_vdpa_get_status(vdpa);  in vp_vdpa_set_status()
238 static int vp_vdpa_reset(struct vdpa_device *vdpa)  in vp_vdpa_reset()  argument
240 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_reset()
242 	u8 s = vp_vdpa_get_status(vdpa);  in vp_vdpa_reset()
252 static u16 vp_vdpa_get_vq_num_max(struct vdpa_device *vdpa)  in vp_vdpa_get_vq_num_max()  argument
257 static int vp_vdpa_get_vq_state(struct vdpa_device *vdpa, u16 qid,  in vp_vdpa_get_vq_state()  argument
267 static int vp_vdpa_set_vq_state_split(struct vdpa_device *vdpa,  in vp_vdpa_set_vq_state_split()  argument
278 static int vp_vdpa_set_vq_state_packed(struct vdpa_device *vdpa,  in vp_vdpa_set_vq_state_packed()  argument
292 static int vp_vdpa_set_vq_state(struct vdpa_device *vdpa, u16 qid,  in vp_vdpa_set_vq_state()  argument
295 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_set_vq_state()
305 			return vp_vdpa_set_vq_state_packed(vdpa, state);  in vp_vdpa_set_vq_state()
307 			return vp_vdpa_set_vq_state_split(vdpa,	state);  in vp_vdpa_set_vq_state()
313 static void vp_vdpa_set_vq_cb(struct vdpa_device *vdpa, u16 qid,  in vp_vdpa_set_vq_cb()  argument
316 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_set_vq_cb()
321 static void vp_vdpa_set_vq_ready(struct vdpa_device *vdpa,  in vp_vdpa_set_vq_ready()  argument
324 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_set_vq_ready()
329 static bool vp_vdpa_get_vq_ready(struct vdpa_device *vdpa, u16 qid)  in vp_vdpa_get_vq_ready()  argument
331 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_get_vq_ready()
336 static void vp_vdpa_set_vq_num(struct vdpa_device *vdpa, u16 qid,  in vp_vdpa_set_vq_num()  argument
339 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_set_vq_num()
344 static u16 vp_vdpa_get_vq_size(struct vdpa_device *vdpa, u16 qid)  in vp_vdpa_get_vq_size()  argument
346 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_get_vq_size()
351 static int vp_vdpa_set_vq_address(struct vdpa_device *vdpa, u16 qid,  in vp_vdpa_set_vq_address()  argument
355 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_set_vq_address()
363 static void vp_vdpa_kick_vq(struct vdpa_device *vdpa, u16 qid)  in vp_vdpa_kick_vq()  argument
365 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_kick_vq()
370 static u32 vp_vdpa_get_generation(struct vdpa_device *vdpa)  in vp_vdpa_get_generation()  argument
372 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_get_generation()
377 static u32 vp_vdpa_get_device_id(struct vdpa_device *vdpa)  in vp_vdpa_get_device_id()  argument
379 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_get_device_id()
384 static u32 vp_vdpa_get_vendor_id(struct vdpa_device *vdpa)  in vp_vdpa_get_vendor_id()  argument
386 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_get_vendor_id()
391 static u32 vp_vdpa_get_vq_align(struct vdpa_device *vdpa)  in vp_vdpa_get_vq_align()  argument
396 static size_t vp_vdpa_get_config_size(struct vdpa_device *vdpa)  in vp_vdpa_get_config_size()  argument
398 	struct virtio_pci_modern_device *mdev = vdpa_to_mdev(vdpa);  in vp_vdpa_get_config_size()
403 static void vp_vdpa_get_config(struct vdpa_device *vdpa,  in vp_vdpa_get_config()  argument
407 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_get_config()
423 static void vp_vdpa_set_config(struct vdpa_device *vdpa,  in vp_vdpa_set_config()  argument
427 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_set_config()
436 static void vp_vdpa_set_config_cb(struct vdpa_device *vdpa,  in vp_vdpa_set_config_cb()  argument
439 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_set_config_cb()
445 vp_vdpa_get_vq_notification(struct vdpa_device *vdpa, u16 qid)  in vp_vdpa_get_vq_notification()  argument
447 	struct vp_vdpa *vp_vdpa = vdpa_to_vp(vdpa);  in vp_vdpa_get_vq_notification()
504 	vp_vdpa = vdpa_alloc_device(struct vp_vdpa, vdpa,  in vp_vdpa_dev_add()
514 	vp_vdpa->vdpa.dma_dev = &pdev->dev;  in vp_vdpa_dev_add()
561 	vp_vdpa->vdpa.mdev = &vp_vdpa_mgtdev->mgtdev;  in vp_vdpa_dev_add()
562 	ret = _vdpa_register_device(&vp_vdpa->vdpa, vp_vdpa->queues);  in vp_vdpa_dev_add()
571 	put_device(&vp_vdpa->vdpa.dev);  in vp_vdpa_dev_add()
583 	_vdpa_unregister_device(&vp_vdpa->vdpa);  in vp_vdpa_dev_del()