Hola
Primero creas un objecto items del tipo ListViewItem y despues si por ejemplo tienes incluido checkboxes haces un loop por los objectos que se han chequeados y los eliminas, te pongo dos ejemplos uno con checkbox y otro solo si se han seleccionado:
Dim item As ListViewItem
For Each item In ListView1.CheckedItems
ListView1.Items.Remove(item)
Next
' en caso que no tengan checkboxes lo haces asi:
For Each item In ListView1.SelectedItems
ListView1.Items.Remove(item)
Next
Saludos
Victor Collado