如何使用辅助功能服务在Android上执行拖动（基于X，Y鼠标坐标）？

android java c# accessibilityservice mouse-coordinates

2022-09-01 01:40:50

我想知道如何在基于X，Y鼠标坐标的Android上执行拖动？考虑两个简单的例子，团队查看器/QuickSupport分别在远程智能手机上绘制“密码模式”和Windows Paint的笔。

我所能做的就是模拟触摸（用和）。dispatchGesture()AccessibilityNodeInfo.ACTION_CLICK

我发现了这些相关链接，但不知道它们是否有用：

以下是我的工作代码，用于将鼠标坐标（在控件内部）发送到远程电话并模拟触摸。PictureBox

Windows 窗体应用程序：

private void pictureBox1_MouseDown(object sender, MouseEventArgs e)
{
    foreach (ListViewItem item in lvConnections.SelectedItems)
    {
        // Remote screen resolution
        string[] tokens = item.SubItems[5].Text.Split('x'); // Ex: 1080x1920

        int xClick = (e.X * int.Parse(tokens[0].ToString())) / (pictureBox1.Size.Width);
        int yClick = (e.Y * int.Parse(tokens[1].ToString())) / (pictureBox1.Size.Height);

        Client client = (Client)item.Tag;

        if (e.Button == MouseButtons.Left)
            client.sock.Send(Encoding.UTF8.GetBytes("TOUCH" + xClick + "<|>" + yClick + Environment.NewLine));
    }
}

编辑：

我的最后一次尝试是使用鼠标坐标（C# Windows Forms应用程序）和自定义Android例程（参考上面链接的“滑动屏幕”代码）的“滑动屏幕”：”

private Point mdownPoint = new Point();

private void pictureBox1_MouseDown(object sender, MouseEventArgs e)
{
    foreach (ListViewItem item in lvConnections.SelectedItems)
    {
        // Remote screen resolution
        string[] tokens = item.SubItems[5].Text.Split('x'); // Ex: 1080x1920

        Client client = (Client)item.Tag;

        if (e.Button == MouseButtons.Left)
        {
            xClick = (e.X * int.Parse(tokens[0].ToString())) / (pictureBox1.Size.Width); 
            yClick = (e.Y * int.Parse(tokens[1].ToString())) / (pictureBox1.Size.Height);

            // Saving start position:

            mdownPoint.X = xClick; 
            mdownPoint.Y = yClick; 

            client.sock.Send(Encoding.UTF8.GetBytes("TOUCH" + xClick + "<|>" + yClick + Environment.NewLine));
        }
    }
}

private void PictureBox1_MouseMove(object sender, MouseEventArgs e)
{
    foreach (ListViewItem item in lvConnections.SelectedItems)
    {
        // Remote screen resolution
        string[] tokens = item.SubItems[5].Text.Split('x'); // Ex: 1080x1920

        Client client = (Client)item.Tag;

        if (e.Button == MouseButtons.Left)
        {
            xClick = (e.X * int.Parse(tokens[0].ToString())) / (pictureBox1.Size.Width);
            yClick = (e.Y * int.Parse(tokens[1].ToString())) / (pictureBox1.Size.Height);

            client.sock.Send(Encoding.UTF8.GetBytes("MOUSESWIPESCREEN" + mdownPoint.X + "<|>" + mdownPoint.Y + "<|>" + xClick + "<|>" + yClick + Environment.NewLine));
        }
    }
}

安卓无障碍服务：

public void Swipe(int x1, int y1, int x2, int y2, int time) {

if (android.os.Build.VERSION.SDK_INT >= android.os.Build.VERSION_CODES.N) {
    System.out.println(" ======= Swipe =======");

    GestureDescription.Builder gestureBuilder = new GestureDescription.Builder();
    Path path = new Path();
    path.moveTo(x1, y1);
    path.lineTo(x2, y2);

    gestureBuilder.addStroke(new GestureDescription.StrokeDescription(path, 100, time));
    dispatchGesture(gestureBuilder.build(), new GestureResultCallback() {
        @Override
        public void onCompleted(GestureDescription gestureDescription) {
            System.out.println("SWIPE Gesture Completed :D");
            super.onCompleted(gestureDescription);
        }
    }, null);
}

}

产生以下结果（但仍然无法像TeamViewer那样绘制“模式密码”）。但就像下面的评论所说，我认为通过类似的方法，这可以使用持续的手势来实现。欢迎在这方面提出任何建议。

编辑 2：

当然，解决方案是继续手势，如上一次编辑中所说的那样。

下面是我在这里找到的一个假定的固定代码 =>

安卓无障碍服务：

// Simulates an L-shaped drag path: 200 pixels right, then 200 pixels down.
Path path = new Path();
path.moveTo(200,200);
path.lineTo(400,200);

final GestureDescription.StrokeDescription sd = new GestureDescription.StrokeDescription(path, 0, 500, true);

// The starting point of the second path must match
// the ending point of the first path.
Path path2 = new Path();
path2.moveTo(400,200);
path2.lineTo(400,400);

final GestureDescription.StrokeDescription sd2 = sd.continueStroke(path2, 0, 500, false); // 0.5 second

HongBaoService.mService.dispatchGesture(new GestureDescription.Builder().addStroke(sd).build(), new AccessibilityService.GestureResultCallback(){

@Override
public void onCompleted(GestureDescription gestureDescription){
super.onCompleted(gestureDescription);
HongBaoService.mService.dispatchGesture(new GestureDescription.Builder().addStroke(sd2).build(),null,null);
}

@Override
public void onCancelled(GestureDescription gestureDescription){
super.onCancelled(gestureDescription);
}
},null);

然后，我的疑问是：如何正确发送上面的代码鼠标坐标，可以执行拖动到任何方向的方式？一些想法？

编辑3：

我发现了两个用于执行拖动的例程，但它们使用的是UiAutomation + injectInputEvent（）。AFAIK，事件注入仅适用于系统应用程序，如这里和这里所说，我不想要它。

这是发现的例程：

然后为了实现我的目标，我认为第二个例程更适合使用（遵循逻辑，不包括事件注入），代码分别在编辑2上显示，并分别发送和（C#Windows Forms应用程序）的所有点以动态填充，并在发送cmd上执行例程并使用这个数组填充。如果您对第一个例程有想法，请告诉我:D。pictureBox1_MouseDownpictureBox1_MouseMovePoint[]pictureBox1_MouseUp

如果在阅读此编辑后，您有一个可能的解决方案，请向我展示答案，而我将尝试并测试这个想法。

答案 1

下面是基于问题的编辑 3 的解决方案示例。

C# Windows Froms Application “formMain.cs”：

using System.Net.Sockets;

private List<Point> lstPoints;

private void pictureBox1_MouseDown(object sender, MouseEventArgs e) 
{
    if (e.Button == MouseButtons.Left)
    {
        lstPoints = new List<Point>();
        lstPoints.Add(new Point(e.X, e.Y));
    }
}

private void PictureBox1_MouseMove(object sender, MouseEventArgs e)
{
    if (e.Button == MouseButtons.Left)
    {
        lstPoints.Add(new Point(e.X, e.Y));
    }
}

private void PictureBox1_MouseUp(object sender, MouseEventArgs e)
{
    lstPoints.Add(new Point(e.X, e.Y));

    StringBuilder sb = new StringBuilder();

    foreach (Point obj in lstPoints)
    {
        sb.Append(Convert.ToString(obj) + ":");
    }

    serverSocket.Send("MDRAWEVENT" + sb.ToString() + Environment.NewLine);
}

android 服务 “SocketBackground.java”：

import java.net.Socket;

String xline;

while (clientSocket.isConnected()) {

    BufferedReader xreader = new BufferedReader(new InputStreamReader(clientSocket.getInputStream(), StandardCharsets.UTF_8));

    if (xreader.ready()) {

        while ((xline = xreader.readLine()) != null) {
                xline = xline.trim();

            if (xline != null && !xline.trim().isEmpty()) {

                if (xline.contains("MDRAWEVENT")) {

                    String coordinates = xline.replace("MDRAWEVENT", "");
                    String[] tokens = coordinates.split(Pattern.quote(":"));
                    Point[] moviments = new Point[tokens.length];

                    for (int i = 0; i < tokens.length; i++) {
                       String[] coordinates = tokens[i].replace("{", "").replace("}", "").split(",");

                       int x = Integer.parseInt(coordinates[0].split("=")[1]);
                       int y = Integer.parseInt(coordinates[1].split("=")[1]);

                       moviments[i] = new Point(x, y);
                    }

                    MyAccessibilityService.instance.mouseDraw(moviments, 2000);
                }
            }
        }
    }
}

android AccessibilityService “MyAccessibilityService.java”：

public void mouseDraw(Point[] segments, int time) {
    if (android.os.Build.VERSION.SDK_INT >= Build.VERSION_CODES.N) {

        Path path = new Path();
        path.moveTo(segments[0].x, segments[0].y);

        for (int i = 1; i < segments.length; i++) {

            path.lineTo(segments[i].x, segments[i].y);

            GestureDescription.StrokeDescription sd = new GestureDescription.StrokeDescription(path, 0, time);

            dispatchGesture(new GestureDescription.Builder().addStroke(sd).build(), new AccessibilityService.GestureResultCallback() {

                @Override
                public void onCompleted(GestureDescription gestureDescription) {
                    super.onCompleted(gestureDescription);
                }

                @Override
                public void onCancelled(GestureDescription gestureDescription) {
                    super.onCancelled(gestureDescription);
                }
            }, null);
        }
    }
}

答案 2

您是否尝试过使用AutoIt脚本？

您可以在特定窗口/屏幕中保存坐标。您可以在绘制图案时按住鼠标单击键。

如果你想要，我还有一些示例代码/脚本给你！

编辑：

根据本教程，您可以在 C# 上使用 Auto-IT。

请按照下列步骤操作：

安装自动 IT
在引用管理器中添加 Auto-IT 作为参考（AutoItX3.dll）
然后导入您添加的库：Using AutoItX3Lib;
创建新的 AutoItX3 对象，名为“auto”：AutoItX3 auto = new AutoItX3();
您现在可以执行“自动 IT”命令。

以下是执行鼠标单击的完整示例：

Using AutoItX3Lib;
AutoItX3 auto = new AutoItX3();
auto.MouseClick("left", 78, 1133, 1, 35)

使用您可以检查要使用的坐标。AutoIt Window Info Tool

请注意，鼠标坐标模式之间存在差异：

例如：将使用绝对屏幕坐标。请参阅此处的源代码。auto.AutoItSetOption("MouseCoordMode", 1)

要按住鼠标单击，可以选中鼠标按下功能